Есть некие люди, вроде как учёные...монографии...
В общем чуть-чуть при естественный интеллект
Мне не нравится Курпатов и вообще релятивизм, который он пропагандирует. Да и в этой лекции слишком много спорного. Шоу - прекрасное для девочек в зале.
И все идет по плану
Andrey777, Класс! А я не ознакомился ещё с его идеями, да и к какому-либо изму он вроде не склонял пока.
Стараюсь смотреть не с позиции эмоций (нравится/ненравится), а конструктивно.
На сколько я понимаю, он имеет понятие об актуальных экспериментах в области изучения разума. Излагает складно.
ы. чугунный радиатор в оформлении барочного камина.
а мне показалось, что лектор на позициях эволюционной психологии.
DIES IRÆ, DIES ILLA
SOLVET SÆCLUM IN FAVILLA
Первой жертвой ИИ будут вахтеры. Падлой буду. Один мозг на все отделы и не будет больше неврубающегося в полет мысли стронги или туи. Тогда я буду вертеть ИИ-том с 8 утра до 11 вечера как хочу и ничего он со мной не сделает. Инструкций не хватит.
Проблема подобных обсуждений в том, что под "ИИ" часто подразумевают "Исскуственный Разум" (hard AI) - те. ИИ с сознанием и до него действительно еще не скоро хотя бы потому, что до сих пор нет чёткого определения ЧЕМ ОН ЯВЛЯЕТСЯ вообще.
Так же надо разграничить "Инструментальный интеллект" - т.е. способность решать проблемы при чётко заданных входных и выходных параметрах и возможность ЦЕЛЕПОЛАГАНИЯ.
Для целеполагания нужно встраивать в компьютер системы ценностей, и тут возникает интересная проблема - если даже поверхностно изучить аксиологию (раздел философии о ценностях) и эволюционную биологию, то становится болезненно очевидно что наши системы ценностей являются продуктом эволюции и служат не "нам", а распространению наших генов. Выйти же за пределы этой парадигмы кажутся 99% людей диким (я так полагаю, что это защитные механизмы - в психологии это называется "защиты личности", но более точно это можно назвать "защита системы ценностей").
Вообще, немалая часть конфликтов между людьми (включая вопросы морали) являются конфликтами разных системы ценностей, и эти вопросы нельзя будет решить убрав все когнитивные искажения - т.к. арабский террорист-смертник действует ЛОГИЧНО исходя из той "матрицы систем ценностей", в которой он пребывает...
Ну и так вот, для создания ИР надо будет наделять его ценностями. Вопрос - какими? Как у нас? А это хорошо? И, ЧСХ, это тоже вопрос ценностей.
Вообще, мета-аксиология (т.е. проблема выбора между разными системами ценностей) скоро станет прикладной наукой именно по описанной выше причине.
Прикол однако в том, что это фрактальная задача, где любая операция по изменению этих ценностей приводит к изменению и в критериях оценки результата!
Если "отпустить" этот процесс, то через несколько сот итераций (а для ИИ это может быть буквально мгновением) мы можем получить разум, который абсолютно логичен, но при этом совершенно, абсолютно чужд нашему. Т.е. аксиологическая, наряду с технологической, сингулярность.
Я думаю, именно эти проблемы так волнуют Маска, например.
И, опять, наши интуиции насколько всё это "хорошо" или "плохо" лишь точка на бесконечном фрактальном ланшафте возможных систем ценностей.
DIES IRÆ, DIES ILLA
SOLVET SÆCLUM IN FAVILLA
Аксиология включается в себя этику И эстетику, область применения шире. Как говорил Гамлет, "Нет ничего ни хорошего, ни плохого, это размышление делает всё таковым" - в нашем случае лимбическая подсистема, которая обрабатывает информацию ДО высших отделов мозга и, судя по всему, "обклеивает" поступающую информацию оценочными "бирками". Пелевин в "СНАФФ"е по этому хорошо так прошёлся .
Наша проблема в том, что влияеть на работу этой подсистемы мы можем влиять лишь очень опосредованно. У ИР, в теории, может быть на это никаких ограничений, но скорее всего это приведёт к параличу любый действий от комбинаторного взрыва при анализе "аксиологического фрактала", как у пациентов Дамасио с повреждением орбитофронтальной коры:
http://olegart.ru/wordpress/2011/07/05/3413/
Конечно, это техническая проблема, и она решаема установкой ограничителей, но в моей ценностной матрице это неизящное решение :D.
Эту тему просматривают: 1 (пользователей: 0 , гостей: 1)