Люди удивительно легко справляются с неожиданными задачами: новая работа, переезд в чужую страну, даже нестандартная поломка чайника — всё это мы перевариваем довольно быстро. Машины же, даже самые умные, спотыкаются на таких мелочах. Почему?
Ответ ищут учёные из Билефельдского университета (Bielefeld University). Их статья, опубликованная в журнале Nature Machine Intelligence, показывает: корень проблемы в том, как по-разному люди и алгоритмы понимают «обобщение» знаний.
Методы исследования
Междисциплинарная команда — когнитивные учёные и специалисты по ИИ — собрала больше двадцати экспертов из университетов Билефельда, Бамберга, Амстердама и Оксфорда. Всё началось с семинара в Центре информатики Лейбница (Leibniz Center for Informatics), и постепенно выросло в крупный проект SAIL (Sustainable Life-Cycle of Intelligent Socio-Technical Systems).
Барбара Хаммер (Barbara Hammer), руководитель группы машинного обучения в Билефельде, отмечает:
«Если мы хотим интегрировать ИИ в повседневную жизнь — медицину, транспорт или принятие решений, — нужно понимать, как он справляется с неизвестным».
В чём различия между человеком и машиной
Термин «обобщение» в когнитивной науке и в ИИ — почти как два разных языка.
- Для человека это абстракции и концептуальные рамки: мы видим суть и переносим знания в новые ситуации.
- Для машин — набор отдельных подходов: от «out-of-domain generalization» до символических правил и нейро-символического ИИ.
Бенджамин Паассен (Benjamin Paaßen), научный сотрудник по представлению знаний и машинному обучению, поясняет:
«Главная проблема в том, что для человека и ИИ ‘обобщение’ значит абсолютно разные вещи. Поэтому мы предложили общую рамку — три измерения: что мы называем обобщением, как оно достигается и как его измерить».
Почему это важно для будущего
Мозг человека строит гибкие модели, умеет менять правила «на лету» и находить связи там, где алгоритм видит только шум. Машина же более «буквоедская» — она либо статистически подгоняет данные, либо следует жёстким правилам.
Авторы считают, что объединение этих подходов поможет создавать ИИ нового типа — не просто быстрые вычислители, а системы, учитывающие человеческие ценности и логику принятия решений.
Итог
Проект SAIL показывает, что ИИ должен быть не только эффективным, но и устойчивым, прозрачным и человекоцентричным. А чтобы это стало реальностью, нужно перестать воспринимать «обобщение» как одинаковое слово для всех.
И, может быть, в будущем машины будут не только считать быстрее нас, но и учиться — почти так же гибко, как мы. Но пока… преимущество на стороне человека.
Литература.
“Aligning generalization between humans and machines” by Barbara Hammer et al. Nature Machine Intelligence
