Вот если именно это он и поймёт. Решит, что такие существа должны были бы пребывать в непрерывном отчаянии и ужасе (понятие, эквивалентное экзистенциальному ужасу, он может открыть самостоятельно), обладай они способностью к суждениям, не подверженным воздействию эндогенных наркотиков. И решит, что лучшим выходом для них была бы массовая эвтаназия. А юмор примерно как в рассказе "Они сделаны из мяса", с той разницей, что это они и создали ИИ.
Идея в том, что признаком состоятельности ИИ может быть способность восстановить состояния, эквивалентные человеческим, на своей элементной базе. Другое дело, что он не обязан быть устроен так, чтобы эти состояния начинали целиком определять его поведение. (Это к теме "песочницы для эмоций", которую я тут вроде бы упоминал ранее.)