С тех пор как большие языковые модели (LLM) вроде ChatGPT научились генерировать текст, похожий на человеческий, в сообществе разгорелись споры: а не обрели ли они сознание? Пока что аргументов против куда больше, но идея живёт. Отчасти из-за нашей склонности очеловечивать всё вокруг, отчасти — из-за туманных заявлений самих ИИ-компаний. Один из исследователей Microsoft решил, что хватит, и построил нейросеть на козах в Age of Empires 2.
Адриан де Винтер, сотрудник Microsoft, создал в редакторе сценариев AoE 2 работающий логический элемент «И-НЕ» и 1-битный перцептрон — простую нейросеть. В качестве битов он использовал игровые объекты: трава обозначала 0, мосты — 1, а козы исполняли роль самих битов. Всё это работает по тем же принципам, что и ChatGPT или Claude, но вместо естественного языка — козы и трава. Результат, по словам де Винтера, выглядит совершенно непонятно для стороннего наблюдателя — и это именно то, что нужно.
«Я имею привычку доводить всё до абсурда, когда хочу доказать свою точку зрения, — объяснил де Винтер. — Абсурдизм — стандартный приём в философии и теоретической информатике». Он добавил, что выбрал именно Age of Empires 2, а не Minecraft (где нейросети на редстоуне уже строили), чтобы показать: можно собрать LLM на чём угодно, и это не делает её «человечной».
Свои выводы де Винтер оформил в статье с говорящим названием: «Если у LLM есть человеческие черты, то они есть и у Age of Empires II». Он призывает коллег перестать по умолчанию считать, что модели ведут себя как люди только из-за обучения на естественном языке. «Нужно ставить эксперименты, которые показывают LLM такими, какие они есть, а не такими, какими мы хотим их видеть», — подчеркнул исследователь.
Проблема серьёзная: по словам де Винтера, за последние два года он рецензировал более 300 научных работ по информатике, и больше половины из них начинали с предположения, что у LLM есть человеческие качества. Это может привести к ошибкам, особенно в научных исследованиях. Так что, возможно, козы в Age of Empires 2 — не просто забавный курьёз, а важный урок.