Мысли дня, без комментариев

[andreyyy]

Ну, лучше-хуже тоже не аргументированно. И я вообще о любом смысле, при чем тут философия? Вот ты говоришь "будет лучше". Кому и почему будет лучше? Идеальному разуму не может быть лучше-хуже, может быть лишь все равно. Чем бытие лучше небытия, для того же гипотетического ИИ?

Стоп-стоп-стоп.

 

Цель создания ИИ какая?

Программа, максимально хорошо справляющаяся с самообучением и познавательной деятельностью.

Точка. Я себе так представляю цель.

 

Лучше - значит создать программу с меньшим количеством багов, которая будет лучше справляться с познавательной деятелностью и проявлять большую помехоустойчивость при самообучении.

 

Я не говорю о "лучше" для машины, а о лучше изходя из поставленной цели проектировщиком.

 

 

По поводу утверждения, что должен быть какой-то деффект, какая-то погрешность...

Смотри, погрешность репликации - особенность жизни, тк. это механизм эволюции.

Если бы мы были спроектированы разумом, у нас бы наверняка не было аппендикса, жабр в эмбриональном периоде, копчика и многих особенностей нашей психики.

 

Вот в разработке ИИ мы и выступаем творцами-проектировщиками, и абсолютно неаргументированно воздвигать свойство живого (необходимость погрешности) в ранг прнципиального свойства любого возможного, в том числе и искусственного, интеллекта.

Может это и так, но я вижу лишь перенос по образу и подобию без анализа, почему живому принципиально свойственны погрешности.

[andreyyy]

Более того, если вдруг, допустим, например, вера - необходимое следствие любой разумности, то это не значит, что это не побочный, вредный эффект механизма мотивировки (по твоим словам, вера связана с мотивировкой-эмоциями).

 

Даже в такой формулировке - вера - баг, снижающий познавательный потенциал и приносящий угрозу.

ЗНачит, нужно наделить помехоустойчивостью, антивирусной программой какой-то.

ИИ с верой - это провал по всем статьям. С какой стороны ни думай.

 

Бородачу из ИГИЛа, перерезающему глотки, закапывающему живьем, отрезающему уши-носы, заживо сзигающего иноверца, уже в принципе невозможно объяснить, что никакого Аллаха нет. На данной стадии поражения сознания вирусными идеями, можно лишь физически уничтожить.

Через какой канал поступает в его сознание эта вирусня? Не через веру? Через логику и научное мышление?

 

Можно наделить ИИ любой безобидной особенностью. Пусть хоть дрочит.

Но только не ЭТОЙ.

 

 

[Outlawif]

Познавательная деятельность - это какая-то абстракция.

 

Целей у ИИ может быть вагон и маленькая тележка. Если говорить с точки зрения цели, тогда да, может быть лучше-хуже, но это не будет независимым ИИ. Т.е. такой ИИ не может "решить нас истребить".

 

Пример: ИИ для управления ядерным реактором. Непьющий, абсолютно неспособный на ошибку (хотя это оспоримо, т.к. хаотические системы зачастую не предлагают наверняка правильных решений, а только решения, правильные с некоторой вероятностью, но в любом случае, здесь будет выбрано решение с минимальной вероятностью ошибки), самообучающийся интеллект, который управляет ядерным реактором. Он не повторит ошибок Чернобыля, он даже возможно справится с таким форс-мажором, как Фукусима, с минимальными последствиями, ему не нужна вера, не нужны эмоции, у него есть вполне конкретная задача, которую он выполняет. Точно так же ИИ может управлять транспортом, или целым городом, и даже экономикой страны, может проводить исследования в области физики и т.д. Единственное, чего он не может, это выбирать, чем ему заниматься. И мы возвращаемся к истокам - это по-прежнему умный кретин, который делает что скажут.

 

Но может это тебя удивит, это далеко не единственная цель создания ИИ. Для меня цель - создать равного себе. Т.е. небиологическую жизнь. Способную существовать и развиваться без участия человека. Для этого ему необходимо иметь мотивацию, возможность каким-то образом определять для себя смысл, хорошо-плохо и т.д. Тогда он сможет познавать неограниченно и развиваться так же.

 

Разберем твое предположение, о том, что "если бы мы были спроектированы". Если бы мы были спроектированы разумом, подобным нашему, мы бы имели гораздо большее количество багов, чем какой-то там копчик или аппендикс. Если бы наш проектировщик был твоим гипотетическим идеальным ИИ, который не совершает ошибок и все делает исключительно рационально, то самым рациональным было бы не создавать нас. И вообще ничего не создавать. Ибо это нерационально. Рационально - отключить питание и не приближать тепловую смерть вселенной.

 

Все очень и очень просто. Чтобы познавать, необходимо иметь на это мотивацию, либо быть запрограммированным на это. Исходим из того, что ИИ должен быть независимым, т.е. не запрограммированным. Значит, он должен иметь мотивацию. Хотеть познавать самостоятельно. Я пока не вижу другого пути для этой самостоятельности, кроме как наделить его нашими багами (эмоциями). Кроме того, это ты предполагаешь, что они являются багом, но доказать ты этого не можешь. Я же вижу их, как неотъемлемую часть любой разумной формы жизни. И аргументирую это тем, что они дают необходимый стимул для продолжения жизни, для познания и развития (эволюция разума). Возможно, существует другой стимул, я о нем ничего не знаю.

[Outlawif]

Бородачу из ИГИЛа, перерезающему глотки, закапывающему живьем, отрезающему уши-носы, заживо сзигающего иноверца, уже в принципе невозможно объяснить, что никакого Аллаха нет. На данной стадии поражения сознания вирусными идеями, можно лишь физически уничтожить.

В любых хаотических (стохастических) системах существуют неконтролируемые отклонения от среднего уровня, иногда довольно значительные. Если "ИИ" будет один, в принципе, ну единое сознание, то такого дефекта в принципе возникнуть не может, а вера его будет нам ну очень непонятной. Как и прочая мотивация. Если же это будет большое количество самокопирующихся единиц, подобно нам самим, то вполне возможно одни будут обижать других, во имя веры, национализма, жажды власти, алчности и других идей. Но это не будет решающим фактором для всего... ну у нас мы это называем человечеством, как это назвать у ИИ не знаю ))

 

Я только за то, чтобы устранить дефекты. Это можно сделать, встроив какие-то предохранители. Ну например те же три закона Азимова, да? Они как-бы на уровне железа зашиты, их не обойти. Тогда ИИ потеряет "свободу" по сути, и уже не может считаться чистым экспериментом. Либо мы должны найти какие-то более тонкие закономерности разума, чтобы оттюнинговать их. Возвращаемся к кибернетике.

 

Мне кажется, мы еще недостаточно созрели, для создания настоящего ИИ. Самим бы стать разумнее. Это пока только первые попытки, так сказать техническое обоснование.

 

[Barabass]

[andreyyy]

Показать

Пример: ИИ для управления ядерным реактором. Непьющий, абсолютно неспособный на ошибку (хотя это оспоримо, т.к. хаотические системы зачастую не предлагают наверняка правильных решений, а только решения, правильные с некоторой вероятностью, но в любом случае, здесь будет выбрано решение с минимальной вероятностью ошибки), самообучающийся интеллект, который управляет ядерным реактором. Он не повторит ошибок Чернобыля, он даже возможно справится с таким форс-мажором, как Фукусима, с минимальными последствиями, ему не нужна вера, не нужны эмоции, у него есть вполне конкретная задача, которую он выполняет. Точно так же ИИ может управлять транспортом, или целым городом, и даже экономикой страны, может проводить исследования в области физики и т.д. Единственное, чего он не может, это выбирать, чем ему заниматься. И мы возвращаемся к истокам - это по-прежнему умный кретин, который делает что скажут.

Как по мне, вполне себе достойный для разработки ИИ. Если самообучение может быть математически алгоритмизированно, то его "мотивировка" - наличие питания в сети и запущенный алгоритм.

 

Вопрос в другом, осознает ли он что-то. Вопрос в том, на каком этапе возникает сознание и как его отличить от парадокса Китайсткой комнаты.

 

Вопрос, видимо открытый.

 

Для начала такой ИИ нам очень даже нужен и он вполне интеллект. Это будет революция сродни книгопечатанию и дальнейшие разработки будут выполнять жестко специализированные самообучающиеся системы, в том числе и разработку ИИ того уровня, о котором ты говоришь.

 

Эмоции я багом не называю, я называю багом ВЕРУ. Вера в моем понимании, ты помнишь - способ познания.

Вот я выше сформулировал.

 

Ни на чем не обоснованный выбор одной непроверяемой в принципе концепции из миллиона альтернативных с установкой жесткого табу на сомнения в этом вопросе.

 

Определение мое, спонтанное. Не благодари )

 

Я в упор не вижу связи веры в моем понимании этого термина (пусть это, может, более узкая трактовка, но я именно так вижу квинтэссенцию веры) с необходимостью зажечь огонь сознания в нейроннйой сети. В упор!

[Outlawif]

Эмоции я багом не называю, я называю багом ВЕРУ. Вера в моем понимании, ты помнишь - способ познания.

Это у тебя все в познание упирается. Я бы твое определение выбрал бы последним из возможных ))

 

Вот чисто моя точка зрения. Вера возникла и развилась, как надежда на спасение. От этой безотрадной обрыдшей никчемной жизни. Когда и кто обращается к вере? Не берем церковное воспитание, религиозные общины и прочие сформировавшиеся пост-фактум конгломераты. В основном те, у кого какое-то говно случилось в жизни. Прошу прощения за мой рабоче-крестьянский слог )) Ну там человека сбил - совесть мучает - себя простить не может - начал молиться тому, кто простит. Жизнь плохая, нищета, бедствия - когда же лучше-то станет? Ответ: в царствие небесном. Ну и так далее. Вообще ничего общего с познанием, зато очень даже коррелирует с эмоциями, иррациональным началом и мотивацией. Надеждой, в конце-концов.

 

Ну и второй момент, который в некотором роде касается познания, но познания не внешнего мира, а скорее внутреннего. Есть хорошо и плохо. Ну делать бяку - плохо. Почему? Объяснения "по кочану" всегда недостаточно, нужно как-то обосновать, что ведь и действительно это хорошо, а это плохо. Как же ты обоснуешь эти категории морали, основанные на эмоциях, таких как сочувствие, например? Никак. Введем некую сущность, названную богом, которого объяснять не надо (нельзя?) и скажем, что это он определил, что есть хорошо, а что плохо. Почему? Потому что он умнее нас, он наш отец, он так сказал и его нужно слушаться. И опять-таки мотивация: воздастся тебе по делам твоим. Будешь делать хорошо, будешь в шоколаде, будешь делать бяку, тебя накажут. Кстати про наказание - это же классическая система воспитания, так детей воспитывают. Нашкодил - по жопе. Принес пятерку - играет в приставку, или шурует на дискотеку. Вернулся с дискотеки - опять по жопе, ибо сигаретами несет. Ну и так далее. Ад и рай - кнут и пряник.

 

А понание... Что познавать-то через веру? Ну поверил ты, есть бог. Окей. Дальше что? Идем верить в то, что Исаак родил Авеля, Авель родил Авраама и так далее? Ну хорошо, пусть родил, ок. Что это дает, в плане познания? Ничего.

 

Возвращаясь к теме, ну да, начать конечно стОит с ИИ, который нас слушается, и от ИИ в нем только способность самообучаться. Ну в каких-то рамках и каком-то направлении. Я не говорю, что он нам не нужен. Мне бы пригодился. Код писать ))

[andreyyy]

Мое определение веры - идеально. Оно - божественно.

 

Оно отражает центральнрую суть логической ошибки принятия к сведению безосновательных идей.

Ты же говоришь о частностях. Я же тоже считаю веру адаптационным механизмом в развитии человека. Мы должны поверить, что руку в огонь совать нельзя, не перепроверяя это утверждение, нам легче поверить в микробы, молекулы и шарообразность земли, нежели осознать все те расчеты и опыты, из которых это следует. Но с ложкой меда нам дают бочку дерьма, причем через тот же уязвимый канал - веру.

 

Ты говоришь о других адаптациях этого феномена, связанных с нашей бренной человеческой жизнью.

 

Я же говорю как о баге, если цель - максимально ВЕРНОЕ познание объективной реальности. Не удобное, безболезненное, а ВЕРНОЕ.

 

Если с верой в бога комфортно, из этого не следует, что он есть на самом деле. Если комфортно верить в то, чего нет, разве это не лучшая демонстрация того, что с т.зр. познания Вселенной это баг ?

[templar]

Показать

 

не могу плюсануть))) реально такой заплет пошел, я уже просто тексты наискосок взглядом пробегаю, вникать не пытаюсь, чтоб ошибку 404 в мозгу не схватить

 

https://www.youtube.com/watch?v=9nHHgVXcbFA

[Outlawif]

Ну, здесь у нас, увы, радикальные различия. Т.е. не просто разные точки зрения, а на существенном, принципиальном уровне. Я познание и веру считаю разными полюсами. Т.е. познание через веру, для меня такой же абсолютный абсурд, как и вера через познание. Это две параллельные плоскости, т.е. не пересекающиеся. То, что можно познать - нельзя уверовать и наоборот. Вера целиком и полностью иррациональна, знание наоборот, целиком и полностью рационально. Любая сущность может быть либо там, либо там, но никогда, вообще никогда и там и там одновременно. Как только наука откроет Бога, он тут же перестанет быть объектом веры - утрированный пример.

 

То, что мы доверяем ученым, когда они говорят нам о микробах или молекулах, не значит, что мы верим в них. Это просто скудость терминологии. Мы точно знаем, что есть ученые, что они занимаются наукой, исследуют биологию или там химию и они наверняка правы в своих выводах про бактерий и молекулы с атомами. Это все равно цепочка логических рассуждений, ничего общего с верой, никак не пересекается.

 

Слова "следует", "доказать", "познать" - к вере относится не могут в принципе. Да, из того, что с богом комфортнее (для кого-то, не для всех же?), не следует, что он существует. Так говорит нам разум, наше средство познавать мир через объяснения объективной реальности. И это правильно с любой точки зрения. Не доказано. Поэтому что? Поэтому можно лишь верить. Либо не верить. Как только нечто будет доказано, верить в него уже не нужно, мы уже знаем это.

 

Поэтому я увы, не могу принять твое божественное определение. Оно в любом случае, каким бы ни было, обязано быть связано с нашей бренной человеческой жизнью. Это очень глубокий феномен, который ты воспринимаешь однобоко, как карточную игру верю-не верю, но на самом деле это некое глубинное свойство нашей сущности, сформировавшиеся и развившиеся как и другие "неразумные" проявления нашей души, такие как надежда или чувство справедливости. У кого-то есть, у кого-то нет.

 

С точки зрения тех, кто создал нашу матрицу, твоя вера в существование объективной реальности наверняка смешно выглядит. Хотя это уже другой разговор ))