"Но ребёнок учится распознавать собак по-другому. Сначала он видит собак, и ему говорят, что это собаки. Он ошибается и поправляется. Он думает, что волк – это собака, но ему говорят, что это не так. Он постепенно меняет своё понимание – это собака, а то – волк. Алгоритм машинного обучения, как ребёнок, берёт информацию из предварительно классифицированного тренировочного набора. Вот собака, вот не собака. Затем он извлекает особенности, отличающие один набор от другого. Проверяя себя на тысячах классифицированных изображений, он начинает самостоятельно создавать свой способ распознавания собаки – так же, как ребёнок». Она просто знает, как это делать.".
- Дык, если тут есть какая-то самостоятельность ребенка, то лишь ассоциативная: волк выглядит, скажем так, суровее)) собаки, и вот эти качества суровости ребенок ассоциирует (самостоятельно) со ставшими ему известными, и уже однозначными, маркерами суровости. Например, у относительная массивность, но не гипертрафированность относительно остального тела, головы у волка = суровость. Алгоритм ассоциаций - всего-лишь алгоритм, и не нужно обольщаться словом "самостоятельно": да, ребенок сам ассоциировал суровость с массивностью, но это же расхожая (т. е. статистическая, стандартная, неудивительная)) ассоциация.
"Система дала правильный ответ в 72% случаев"...
- И все 72 случая, похоже, близки к статистическому стандарту "чаще всего, вот этот симптом = вот этот диагноз". Ежику понятно, что машина такую статистическую выборку проанализирует лучше человека - просто потому, что человек не так чёток в анализе.
"Каким образом она определила, что это образование – меланома? Мы этого не узнаем, и она нам не расскажет."...
- Странно, что кому-то непонятно. Однажды, когда-то, в сеть загрузили определения, и приданные им признаки. Констатируя признаки, система дает определение.
В общем, имхо, нет никакого "черного ящика", есть лишь система-стуктурный анализатор, и детали сруктур с соответствиями. И то, и другое, вкладывают в систему программисты. А дальше уж, если система имеет доступ к продолжению библиотеки структур и соответствий (и алгоритм этого продолжения. Например, алгоритм продолжения англо-русского словаря проще, чем кажется, и "записан" в команде "переведи!", если нет уточнения "с английского на русский only". Логично, в системе-переводчике выстраивается: "Переведи\если нет уточнения на какой язык\на все известные тебе языки". Система просто проводит параллели, пользуясь записанными в алгоритмах же, рамками сродства.
Естественно, "Чёрный ящик не умеет исследовать причины", если систему о причинах не спрашивают\статистике причин в систему не закладывали.
В противном случае, система-переводчик должна уточнить "а есть еще словари-языки, которых я не знаю?..", а система-диагност, при низком совпадении симптома со статистикой: "а есть еще другие диагнозы?..". Вот такие уточнения-вопросы и есть интеллектуальные.
Итого, машина - лишь статистический анализатор, причем анализатор по заданным параметрам. Внутри этой системы - просто расчет. Вне параметров (ключевое слово "вне")) - творчество интеллекта.
Естественно, творчество неоднозначно, по определению. Соответственно, машинные диагнозы vs. диагнозы врачей-людей.