Искусственный Интеллект (Artificial Intelligence)

[schizo]

И если посмотреть на историю развития науки, то можно проследить возможности этого кластера. Так, сейчас время распространения наиболее полезной информации(научной) составляет не более 10 лет (в большинстве отраслей). И есть еще одна закономерность. Раньше наибольшие достижения кластера были с целью создания военной техники. Раньше это был наиболее эффективный способ подавления себеподобных. Сейчас военная отрасль ушла на второй план и способом самореализации народов стал технический прогресс во всех отраслях. Произошло это в конце 20-го века.

а маятник тем временем пошёл в обратную сторону...

[Pavel-NS]

Есть некие люди, вроде как учёные...монографии...
В общем чуть-чуть при естественный интеллект

[Andrey777]

Есть некие люди, вроде как учёные...монографии...
В общем чуть-чуть при естественный интеллект

Мне не нравится Курпатов и вообще релятивизм, который он пропагандирует. Да и в этой лекции слишком много спорного. Шоу - прекрасное для девочек в зале.

[Pavel-NS]

Andrey777, Класс! А я не ознакомился ещё с его идеями, да и к какому-либо изму он вроде не склонял пока.
Стараюсь смотреть не с позиции эмоций (нравится/ненравится), а конструктивно.
На сколько я понимаю, он имеет понятие об актуальных экспериментах в области изучения разума. Излагает складно.

[Andrey777]

Andrey777, Класс! А я не ознакомился ещё с его идеями, да и к какому-либо изму он вроде не склонял пока.
Стараюсь смотреть не с позиции эмоций (нравится/ненравится), а конструктивно.
На сколько я понимаю, он имеет понятие об актуальных экспериментах в области изучения разума. Излагает складно.

Не нравится, потому что несет чушь (а не внешность или манера подачи).
Пропагандирует сомневаться во всем, всему не доверять, принимая его слова за истину. Это и есть релятивизм.

[schizo]

ы. чугунный радиатор в оформлении барочного камина.

а мне показалось, что лектор на позициях эволюционной психологии.

[Piramidon]

Первой жертвой ИИ будут вахтеры. Падлой буду. Один мозг на все отделы и не будет больше неврубающегося в полет мысли стронги или туи. Тогда я буду вертеть ИИ-том с 8 утра до 11 вечера как хочу и ничего он со мной не сделает. Инструкций не хватит.

[Balor]

Проблема подобных обсуждений в том, что под "ИИ" часто подразумевают "Исскуственный Разум" (hard AI) - те. ИИ с сознанием и до него действительно еще не скоро хотя бы потому, что до сих пор нет чёткого определения ЧЕМ ОН ЯВЛЯЕТСЯ вообще.

Так же надо разграничить "Инструментальный интеллект" - т.е. способность решать проблемы при чётко заданных входных и выходных параметрах и возможность ЦЕЛЕПОЛАГАНИЯ.
Для целеполагания нужно встраивать в компьютер системы ценностей, и тут возникает интересная проблема - если даже поверхностно изучить аксиологию (раздел философии о ценностях) и эволюционную биологию, то становится болезненно очевидно что наши системы ценностей являются продуктом эволюции и служат не "нам", а распространению наших генов. Выйти же за пределы этой парадигмы кажутся 99% людей диким (я так полагаю, что это защитные механизмы - в психологии это называется "защиты личности", но более точно это можно назвать "защита системы ценностей").
Вообще, немалая часть конфликтов между людьми (включая вопросы морали) являются конфликтами разных системы ценностей, и эти вопросы нельзя будет решить убрав все когнитивные искажения - т.к. арабский террорист-смертник действует ЛОГИЧНО исходя из той "матрицы систем ценностей", в которой он пребывает...

Ну и так вот, для создания ИР надо будет наделять его ценностями. Вопрос - какими? Как у нас? А это хорошо? И, ЧСХ, это тоже вопрос ценностей.

Вообще, мета-аксиология (т.е. проблема выбора между разными системами ценностей) скоро станет прикладной наукой именно по описанной выше причине.
Прикол однако в том, что это фрактальная задача, где любая операция по изменению этих ценностей приводит к изменению и в критериях оценки результата!

Если "отпустить" этот процесс, то через несколько сот итераций (а для ИИ это может быть буквально мгновением) мы можем получить разум, который абсолютно логичен, но при этом совершенно, абсолютно чужд нашему. Т.е. аксиологическая, наряду с технологической, сингулярность.
Я думаю, именно эти проблемы так волнуют Маска, например.

И, опять, наши интуиции насколько всё это "хорошо" или "плохо" лишь точка на бесконечном фрактальном ланшафте возможных систем ценностей.

[schizo]

мета-аксиология (т.е. проблема выбора между разными системами ценностей) скоро станет прикладной наукой

звучит как то самое этическое исчисление.

через несколько сот итераций (а для ИИ это может быть буквально мгновением) мы можем получить разум, который абсолютно логичен, но при этом совершенно, абсолютно чужд нашему.

"Массачусетская машина"?

Прикол однако в том, что это фрактальная задача, где любая операция по изменению этих ценностей приводит к изменению и в критериях оценки результата!

это похоже на то, когда много локальных улучшений качества решения приводят к глобальному ухудшению качества?
а ещё буква закона против духа закона.

[Balor]

звучит как то самое этическое исчисление.

Аксиология включается в себя этику И эстетику, область применения шире. Как говорил Гамлет, "Нет ничего ни хорошего, ни плохого, это размышление делает всё таковым" - в нашем случае лимбическая подсистема, которая обрабатывает информацию ДО высших отделов мозга и, судя по всему, "обклеивает" поступающую информацию оценочными "бирками". Пелевин в "СНАФФ"е по этому хорошо так прошёлся .
Наша проблема в том, что влияеть на работу этой подсистемы мы можем влиять лишь очень опосредованно. У ИР, в теории, может быть на это никаких ограничений, но скорее всего это приведёт к параличу любый действий от комбинаторного взрыва при анализе "аксиологического фрактала", как у пациентов Дамасио с повреждением орбитофронтальной коры:

http://olegart.ru/wordpress/2011/07/05/3413/

Конечно, это техническая проблема, и она решаема установкой ограничителей, но в моей ценностной матрице это неизящное решение :D.