Специалисты Университета штата Аризона (США) предостерегают от интерпретации результатов работы моделей искусственного интеллекта (ИИ) как проявления мышления. Результаты исследования опубликованы на платформе препринтов arXiv.
Команда под руководством Суббарао Камбхампати утверждает, что текст, сгенерированный ИИ, лишь имитирует человеческий разум. Подчеркивается, что эти тексты статистически сгенерированы и лишены реального семантического содержания.
Исследователи называют ответы ИИ «фрагментами текста поверхностного уровня», подчеркивая отсутствие признаков мыслительной деятельности у нейросетей. По их мнению, видимость пошагового процесса рассуждений – лишь побочный эффект оптимизации.
Ученые приводят примеры, когда модели, выдавая бессмысленные предварительные результаты, все же предоставляют правильный ответ в конце. Разработчики также используют слова-паразиты, чтобы создать иллюзию общения с разумным существом.
В заключение, ученые призывают разработчиков ИИ сосредоточиться на повышении производительности, а не на имитации человеческого мышления. Ранее специалисты Университета Южной Австралии отметили, что ИИ может помочь творческим работникам, но не заменит их.
