Религия, вероисповедание, теология, атеизм

[andreyyy]

Норкоман штоле? А как же детерминизм?

 

штоле В тексте много недостатков. Я и так раздул сильно текст, а ведь для донесения мысли без потерь еще бы писать и писать, добавлять оговорки, сноски, исключения.

 

Да, ты прав, я склоняюсь к детерминизму. Это я не про ту нередуцируемую фундаментальную случайность, которая впервые нанесла удар детерминизму в рамках интерпретаций квантовой механики.

 

[andreyyy]

Прогресс. Почти все достижения НТР были так или иначе завязаны на нужды военки. Во все времена. Теперь кровожадные пендосы решили сублимироваться от военки в космос. Понимая, что с парашкой на одной планете долго не протянуть.

 

Возможно, пример не удачный и я не донес мысль ?

Я говорю о той неискоренимой тяге к познанию.

Многие ученые потратили бы все богатство планеты, лишь бы выйти за рамки Стандартной модели и открыть квантовую теорию гравитации.

Не ради прикладных задач, а потому что в этом их страсть и высшая ценность жизни. А жизнь коротка, можно не застать прорыва и умереть в неведении.

 

А прикладные задачи, обоснования ценности Коллайдера и спутника возле Титана - это не движущая сила науки. Это выбивание денег у властьимущих, т.к. у них-то как раз ценности отличаются.

Движущая сила познания, я считаю - любопытство и постулирование ценности правдолюбия и поиска ответов на вопросы.

[Outlawif]

Возможно, пример не удачный и я не донес мысль ?

Из всех мыслей, я не понял только почему ты целеполагание называешь произвольным? "Аксиомы" нашего целеполагания обусловлены нашей физиологией.

 

Разумеется, наше существование не имеет смысла, я об этом много раз говорил. И любой, достаточно продвинутый, чтобы осознать эту простую идею интеллект, не обладай он каким-то целеполаганием, тут же добровольно прекратит свое существование. Будь то компьютерный ии, или биологический. Интеллект, способный выживать, то есть наделенный даром иррационального (но не произвольного, а как минимум направленного на выживание) целеполагания, не должен быть враждебен по отношению к другому интеллекту. Если он достаточно развит для того, чтобы задавать те же вопросы, которые ты поднял в своем посте. А предполагаемый ИИ будет на несколько порядков более развит, чем мы. Он просто гарантированно не будет враждебен. Я не разделяю всей этой ксенофобии )

[andreyyy]

Из всех мыслей, я не понял только почему ты целеполагание называешь произвольным? "Аксиомы" нашего целеполагания обусловлены нашей физиологией.

 

Разумеется, наше существование не имеет смысла, я об этом много раз говорил. И любой, достаточно продвинутый, чтобы осознать эту простую идею интеллект, не обладай он каким-то целеполаганием, тут же добровольно прекратит свое существование. Будь то компьютерный ии, или биологический. Интеллект, способный выживать, то есть наделенный даром иррационального (но не произвольного, а как минимум направленного на выживание) целеполагания, не должен быть враждебен по отношению к другому интеллекту. Если он достаточно развит для того, чтобы задавать те же вопросы, которые ты поднял в своем посте. А предполагаемый ИИ будет на несколько порядков более развит, чем мы. Он просто гарантированно не будет враждебен. Я не разделяю всей этой ксенофобии )

 

Именно что НАШЕЙ физиологией.

Разве нельзя спроектировать другую иерархию с другими базовыми целеполагающими установками, не требующими аргументации и вывода ?

 

Я, конечно, понимаю, что ты противоположного мнения.

Я пока остаюсь при своем. Может, додумаю когда-то до чего-то другого, посмотрим.

 

[andreyyy]

На физиологию опиралась бы гомофобия, например.

 

[Outlawif]

Именно что НАШЕЙ физиологией.

Физиологией это на самом деле упрощение, я думал оно будет понятно.

Разве нельзя спроектировать другую иерархию с другими базовыми целеполагающими установками, не требующими аргументации и вывода ?

Нельзя. Основной целеполагающей установкой всегда будет выживание. Иначе вид не выживет.

[andreyyy]

Нельзя. Основной целеполагающей установкой всегда будет выживание. Иначе вид не выживет.

 

именно об этом я и писал.

Что для того, чтобы додуматься до бессмысленности жизни, усложнению органики пришлось пройти очень долгий эволюционный путь ... бла-бла-бла

Т.е. это естественно для сапопроизвольного возникновения разума на основе жизни.

 

Я же говорю об ИИ. Ему не нужно жить в социуме, рожать, защищать свою пещеру от чужаков.

В него можно заложить изначальные другие базовые мотивы.

И он спросит подобно Терминатору: "Почему людей убивать нельзя?"

Я сам, будучи человеком, это обосновать не могу. Просто ссу, что совесть потом мучить будет как Раскольникова.

[Outlawif]

И он спросит подобно Терминатору: "Почему людей убивать нельзя?"

Сейчас уже есть ИИ, который проходит тест Тьюринга. С оговорками, но проходит. Подожди чуть-чуть, когда он пройдет его на любом уровне сложности, и задай ему такой вопрос )

 

А если серьезно - нельзя вложить мотивацию в мыслящее существо. Есть вполне четкая мысль, до которой может додуматься любой ИИ, который находится на уровне хотя-бы гениального человека. ВСЕ бессмысленно. И заложенная в него искусственно мотивация - тоже бессмысленна. Если он будет, как часто любят фантазировать, "чистым разумом", "абсолютной логикой" и т.д., то никакая вложенная мотивация не заставит его действововать, потому что возник конфликт более высокого порядка. Действия - бессмысленны. Эмоциональная часть должна быть главнее, как у нас, чтобы заставить его делать хоть что-либо. Все наши эмоции проистекают из необходимости выживания. Да, иногда они приводят к обратному эффекту, но мы знаем, что эволюция несовершенна и в ее ходе возникают ошибки.

 

Насчет терминатора, если ты помнишь, его перевели в режим обучения, и в конце фильма он понял, почему людей убивать нельзя, и совершил по сути невозможное для машины, идущее вразрез с его программой. Он совершил самоубийство.

[andreyyy]

Ну я же не спорю с этим.

Я о другом. О том, что эмоции будут, мотивы заложены будут, но они могут быть другими.

 

Даже у нас, в пределах одного вида в разных культурах сильный разброс представлений о добре и зле, допустимом и недопустимом поведении.

Определенная вариативность допустима. Все комбинации, не приводящие к вырождению, могут быть отобраны и закреплены.

 

Но вариативность целеполагающего базиса и непреложных моральных истин у ИИ может выходить за рамки возможной вариативности биологического разума.

 

Я не говорю об абсолютном интеллекте. Я говорю об эмоциональном, но совсем другом.

у него обязаны быть мотивы, эмоции, инстинкт самосохранения.

Но почему у него должна быть заложена ценность сохранения человеческого вида ?

Ну кроме случаев, когда он без нас не может обойтись.

[Outlawif]

Даже у нас, в пределах одного вида в разных культурах сильный разброс представлений о добре и зле, допустимом и недопустимом поведении.

У нас очень слаборазвитый вид. Тем не менее, большая его часть декларирует ценность жизни, и в частности ценность разумной жизни. Потому что мы - разумная жизнь. Декларируем свою ценность. Логично предположить, что свойство "разумной жизни" должно декларировать свою ценность для выживания. Культуры, которые этого не декларируют, постепенно вымирают, либо "цивилизуются".

 

Культурные наслоения вроде там не оголяться в публичных местах или не матюкаться - это самая верхушка айсберга, сложное переплетение обстоятельств, повлиявших на возникновение таких причудливых "моральных" ценностей. В которых на самом деле нет ни ценности, ни морали.

Я не говорю об абсолютном интеллекте.

Я тоже про абсолютный не говорю, абсолютного ничего не бывает. Но даже по самым скромным меркам, его интеллект будет выше нашего, как наш выше обезьяннего. А по нескромным меркам мы в принципе даже вообразить не можем, на что это будет похоже. Разница между рабочим с завода, который смотрит битву экстрасенсов и Эйнштейном, умноженная на гугол. Что-то божественное.

Но почему у него должна быть заложена ценность сохранения человеческого вида ?

Эмпатия. Я считаю, что это одна из основополагающих эмоций, и для ИИ тоже. Даже мы, на своей ступеньке, дошли до того, что ценен не только и не столько наш вид, но разумная жизнь в принципе. И даже потенциально разумная. Потому что для разумной жизни по сути нет межвидовых границ. Руки, щупальца, телекинез, нет никакой разницы, если мы можем договориться и сопереживать. И дело не столько в ценности, сколько в табу на убийство себе подобных. Себе подобных = разумных.

 

Кроме того, чтобы истреблять кого-то, нужна необходимость. Нужна цель, достичь которой кто-то мешает. Индейцы мешали европейцам освоить америку, европецйцы истребили индейцев. Испанцам другие индейцы мешали забрать свое золото - испанцы истребили этих индейцев. Чем более развит будет ИИ, тем меньше шансов, что мы в чем-то будем ему мешать. Он с легкостью освоит другие планеты. Мы ему не конкурент. Ни в чем.