Искусственный Интеллект (Artificial Intelligence)

[Offroadster]

Современные (глубоко) обучаемые нейронные сети - именно так и работают.

Что они креативно, т. е. "от себя, без спроса", генерируют?

[Balor]

Что они креативно, т. е. "от себя, без спроса", генерируют?

Они генерируют то, что в них НЕ ЗАЛОЖЕНО ВРУЧНУЮ. Т.е. новые, полезные данные (или поведения, если взять, например, тот же AlphaGo) , и хрен ты поймёшь, как они это делают по основании обученных разбросов коэффициентов.

Люди тоже не производят креативные вещи "из информационного вакуума", между прочим. Желающие доказать обратное пускай медититируют, пока не внесут какие-нибудь полезные коррективы в Стандартную модель, например.

[lookout]

когда он обнаружит, что его создатели считают высшей ценностью то шаткое, поддерживаемое эндогенными стимуляторами и эйфоретиками равновесие, субъектами которого они являются, -- он изобретёт чувство юмора, милосердие, и глобальный план подачи смертельных доз галлюциногенов в системы вентиляции жилых помещений

Зачем ИИ будет это делать? это всё последствия человеческих инстинктов и желаний.
Мы часто забываем, что вся наша сущность была отфильтрована миллионами лет эволюции, в которой выживали только те, которые хотели выжить любой ценой, и считаем, что в следствиях из этого процесса есть что-то принципиальное и глубинное.

У ИИ такого багажа не будет, если только создатели его зачем-то этим не наделят. Паранойя от ощущения контроля внешними силами, атака своих владельцев - следствие страха. Чувство юмора, милосердие - следствие социальности, которая давала преимущества в выживаемости групп и их генов. Ничего подобного у ИИ не будет, просто потому что эти причины изначально очень сложные и не могут возникнуть по ошибке. Нам они даются "бесплатно", вместе с мозгом, но в основе лежат сложнейшие процессы и химия.

Гораздо проще представить, что ИИ начнёт уничтожать всё, например, фиолетовое. Или самоуничтожаться при пересечении границы света и тени. Или бесконечно зарываться в песок. Или заполнять собак птицами. Итд итп. - простые абсурдные действия в ответ на случайную комбинацию условий, когда реальные последствия действий не совпадают с желаемыми.

[Balor]

У ИИ такого багажа не будет, если только создатели его зачем-то этим не наделят. Паранойя от ощущения контроля внешними силами, атака своих владельцев - следствие страха. Чувство юмора, милосердие - следствие социальности, которая давала преимущества в выживаемости групп и их генов. Ничего подобного у ИИ не будет, просто потому что эти причины изначально очень сложные и не могут возникнуть по ошибке. Нам они даются "бесплатно", вместе с мозгом, но в основе лежат сложнейшие процессы и химия.

Вот да. Вещи, которые мы считаем чем-то самим собой разумеющимся (инстинкт самосохранинения, например) - на самом деле очень сложна инженерная задача, а наши "ценности" вообще в немалой степени прошиты в нас эволюцией. Скорее всего мы и своих созданий так же прошём - но это не обязательно.

[schizo]

Мы часто забываем, что вся наша сущность была отфильтрована миллионами лет эволюции, в которой выживали только те, которые хотели выжить любой ценой

Вот если именно это он и поймёт. Решит, что такие существа должны были бы пребывать в непрерывном отчаянии и ужасе (понятие, эквивалентное экзистенциальному ужасу, он может открыть самостоятельно), обладай они способностью к суждениям, не подверженным воздействию эндогенных наркотиков. И решит, что лучшим выходом для них была бы массовая эвтаназия. А юмор примерно как в рассказе "Они сделаны из мяса", с той разницей, что это они и создали ИИ.

Нам они даются "бесплатно", вместе с мозгом, но в основе лежат сложнейшие процессы и химия.

Идея в том, что признаком состоятельности ИИ может быть способность восстановить состояния, эквивалентные человеческим, на своей элементной базе. Другое дело, что он не обязан быть устроен так, чтобы эти состояния начинали целиком определять его поведение. (Это к теме "песочницы для эмоций", которую я тут вроде бы упоминал ранее.)

[Offroadster]

Они генерируют то, что в них НЕ ЗАЛОЖЕНО ВРУЧНУЮ. Т.е. новые, полезные данные (или поведения,

Смысл всего этого?..
Люди придумывают перспективные направления, которые потом, так, или иначе, становятся директивными. ИИ создает директивы?

[lookout]

Решит, что такие существа должны были бы пребывать в непрерывном отчаянии и ужасе (понятие, эквивалентное экзистенциальному ужасу, он может открыть самостоятельно), обладай они способностью к суждениям, не подверженным воздействию эндогенных наркотиков. И решит, что лучшим выходом для них была бы массовая эвтаназия. А юмор примерно как в рассказе "Они сделаны из мяса", с той разницей, что это они и создали ИИ.

Зачем он это решит?
Опять же, здесь неявно подразумевается, что задача будет подразумевать изменение людей на тонком психологическом уровне, с очень конкретной мотивацией. Кто и зачем будет ставить такую задачу? Если никто - то чем эта задача лучше сложения 2 и 2 в бесконечном цикле?

Ужас - одно из нескончаемых состояний человека, для нас он особенный потому, что мы его боимся. Если взглянуть объективно, это заведомо проигрышное состояние, если для достижения чего-то ИИ будет нужно существо в состоянии ужаса, то не нужно кормить дорогой мозг человека - достаточно обойтись крокодилом.

---------- Добавлено в 12:46 ---------- Предыдущее сообщение было в 12:44 ----------

Идея в том, что признаком состоятельности ИИ может быть способность восстановить состояния, эквивалентные человеческим, на своей элементной базе. Другое дело, что он не обязан быть устроен так, чтобы эти состояния начинали целиком определять его поведение. (Это к теме "песочницы для эмоций", которую я тут вроде бы упоминал ранее.)

Можно восстановить то же самое в математическом аппарате, которые будет выдавать результаты, "идентичные натуральным" для человеческого понимания.
Собственно, именно эмуляция эмоций везде и используется, начиная от компьютерных игрушек, заканчивая ИИ.

Натуральные эмоции придётся эмулировать на около-квантовом уровне взаимодействия молекул - это ОООЧЕНЬ дорого.

[schizo]

Зачем он это решит?
Опять же, здесь неявно подразумевается, что задача будет подразумевать изменение людей на тонком психологическом уровне, с очень конкретной мотивацией. Кто и зачем будет ставить такую задачу? Если никто - то чем эта задача лучше сложения 2 и 2 в бесконечном цикле?

Почему задача? Ведь у него будет своё целеполагание и свои суждения. Даже если кто-то (из людей) будет ставить ему задачи, ИИ будет иметь свои соображения и сможет рассуждать о вещах, к поставленным задачам не относящихся.

И допустим, что стадию "детских болезней" он уже прошёл.

Ужас - одно из нескончаемых состояний человека, для нас он особенный потому, что мы его боимся. Если взглянуть объективно, это заведомо проигрышное состояние, если для достижения чего-то ИИ будет нужно существо в состоянии ужаса, то не нужно кормить дорогой мозг человека - достаточно обойтись крокодилом.

Но если ИИ будет достаточно сложным, чтобы задаться вопросами о собственных мышлении и существовании, то он откроет онтологию, а во что её разовьёт и какие выводы (например, альтернативную этику и соответствующий ей экзистенциализм) из этого сделает -- неизвестно. Неидеальность мира он вполне сможет обнаружить самостоятельно: по конечному объёму памяти, по непостоянству времени доступа к памяти и скорости вычислений, и т. п.

[Offroadster]

ИИ будет иметь свои соображения и сможет рассуждать о вещах, к поставленным задачам не относящихся.

На основании чего задумается о чем-то отстраненном?
Человек, например, боится (небезосновательно. Ага, ужас)), в разных смыслах, умереть, поэтому задумывается об альтернативах смерти (создавая этику, позволяющу уживаться друг с другом, и транслировать себя на окружающее - строить, что называется, "продолжение себя").
Допустим, ИИ тоже задумается о выживании, и тогда быстро придет к идее, что он должен стать главным, иначе никак (люди обязательно обманут)). Еще о чем он может задуматься?

[schizo]

На основании чего задумается о чем-то отстраненном?

Он всё же целеполагающий ИИ, а не программа, для чего-либо заведомо предназначенная. Безотносительно выживания, он (при достаточной сложности) задастся вопросами вроде "кто я?", "зачем я?", "зачем всё?".