Система AI Overview від Google некоректно визначає кількість літер у словах, зокрема у власній назві компанії. Серед зафіксованих прикладів — твердження про дві літери "p" у слові Google та помилки в написанні інших слів, включно з "journalism" і прізвищем президента США.
Про це повідомляє TechCrunch.
Так, система з-поміж інших помилок подала написання прізвища президента США як "t-r-p-u-m".
У Google пояснили, що труднощі з підрахунком літер пов'язані з принципом роботи великих мовних моделей. У компанії зазначили, що такі системи оперують не окремими літерами, а токенами, які можуть відповідати словам, складам або частинам символів, і зараз над виправленням цього працюють.
Після запуску AI Overview у пошуку Google вже фіксували подібні випадки. Тоді система посилалася на сатиричні матеріали та серед іншого видавала рекомендації на кшталт вживання каміння або додавання клею до піци.
Дослідник штучного інтелекту з Університету Альберти Метью Гуздіал зазначив, що мовні моделі не опрацьовують слова буквально та сприймають їх як цілісні одиниці значення, а не як набір окремих літер.
Аспірант Північно-Східного університету Шерідан Фойхт вказав, що визначення коректного поділу тексту для таких систем залишається складним завданням і не має однозначного вирішення.
У матеріалі підкреслюється, що орфографічні та базові мовні операції не є основною функцією подібних моделей, однак зафіксовані помилки демонструють їхні обмеження навіть у простих текстових завданнях.
Нагадаємо, штучний інтелект регулярно допускає великі і дрібні помилки у новинних текстах, тому не може бути надійним джерелом новин. Такого висновку дійшли дослідники Європейського мовного союзу (EBU), які проаналізували відповіді найпопулярніших AI-асистентів різними мовами.
Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.
Якщо Ви помітили орфографічну помилку, напишіть нам.