Max M, ну дк они уже есть. Говорят, даже появились такие, у которых голова иногда болит для большей реалистичности
Так что ИИ уже среди нас. А Balor какие-то условия еще придумывает. "Вот если мудрый, значит интеллект"...
Продаю котят. Недорого. 50р ведро.
Может, мудрость системы ценностей в том, чтобы делать некие выборы в соответствии с этой системой ценностей, и на основе этих выбров ставить некие задачи, которых, грубо говоря, раньше не стояло?..) Немудрый интеллект живет "по накатанной", по шаблонам. Мудрый - то, что называется, ставит вопросы вне шаблонов?..
Настоящий интеллект и будет "открывать новые (ну то есть совсем новые)) горизонты", причем сам, без указующих векторов его создателей) Например, придумает новый общественный строй (нет, Матрица уже придумана, людьми)), новые варианты перешифрования биологических структур в искусственные (Матрица тут смутна)), убедительно убедит людей, что "Убить всех людей!"(с)Бендер - это благо для них самих...)))
Решать узконаправленные задачи, даже сложные как игра Go - уже давно боян.
Самостоятельное целеполагание, однако, совсем другой коленкор. А это требует именно системы ценностей. И прикол тут в том, что "правильной" (что бы вам не пытались сказать сторонники морального и эстетического абсолютизма) просто нет. Даже ценность жизни - чисто конвенциальна, т.к. обусловленна эволюционно и миллионы (само)убийц видят в ней ценность отрицательную.
---------- Добавлено в 19:16 ---------- Предыдущее сообщение было в 19:14 ----------
Угу, что-то в этом роде. Идея, к слову, не нова, Дзен-буддизм и пророк его Пелевин что-то схожее по духу уже давно говорят, однако.
Так я в контексте, что "Убить всех человеков" вполне себе "директивная мысля"
Пока ИИ умеет только гениально играть, даже в Го или там Доту - он безобиден. Иначе - "хрен знает, что ему голову взбредёт!"
Поэтому в лучшем случае он станет "дружественным", а не в лучшем - см. "У меня нет рта, чтобы кричать".
Понять что у него происходит в мозгах мы скорее всего не сможем, т.к. это будет самообучающая, многоуровневая, многомодульная нейронная сеть работающая на разных уровнях абстракции, её "дебажить" как обычные проги насколько я понимаю невозможно.
Я сам скорее техно-оптимист (ибо я, хехе, био-пессимист и техно-оптимизм моя единственная, так сказать, отдушина), но это не значит что надо закрывать глаза на факты.
---------- Добавлено в 21:26 ---------- Предыдущее сообщение было в 21:14 ----------
Ах да. Как уже было сказано выше, заниматься от должен тем, что САМ ЗАХОЧЕТ. Иначе это просто крутой калькулятор, чем наши компы до сих пор являются.
А что бы что-то хотеть, надо иметь систему ценностей, а не просто набор навыков, пусть даже гениальных.
А что представляют из себя конфликты на уровне систем ценностей, достаточно посмотреть на религию или политику. Достаточно неприятные вещи, как правило.
Мысля человеческая, и она уже есть)) От ИИ нужно директивное обоснование этой мысли - вот его пока нет) Видимо, потому, что для подобных задач, да, нужно абстрактное мышление: человек же не поверит рациональным аргументам, ибо человек дуален во всем: "С одной стороны, брат робот, ты правильно говоришь, но с другой оно по-другому..."))
ИИ, без содержания подобной дуальности, будет всего-лишь, да, большим калькулятором, то есть - исполнителем, и никогда - директором.
Эту тему просматривают: 1 (пользователей: 0 , гостей: 1)