Google AI Overview помилився у підрахунку літер у слові Google та назві власної компанії

Система AI Overview від Google некоректно визначає кількість літер у словах, зокрема у власній назві компанії. Серед зафіксованих прикладів — твердження про дві літери "p" у слові Google та помилки в написанні інших слів, включно з "journalism" і прізвищем президента США.

Про це повідомляє TechCrunch.

Так, система з-поміж інших помилок подала написання прізвища президента США як "t-r-p-u-m".

У Google пояснили, що труднощі з підрахунком літер пов'язані з принципом роботи великих мовних моделей. У компанії зазначили, що такі системи оперують не окремими літерами, а токенами, які можуть відповідати словам, складам або частинам символів, і зараз над виправленням цього працюють.

Після запуску AI Overview у пошуку Google вже фіксували подібні випадки. Тоді система посилалася на сатиричні матеріали та серед іншого видавала рекомендації на кшталт вживання каміння або додавання клею до піци.

Дослідник штучного інтелекту з Університету Альберти Метью Гуздіал зазначив, що мовні моделі не опрацьовують слова буквально та сприймають їх як цілісні одиниці значення, а не як набір окремих літер.

Аспірант Північно-Східного університету Шерідан Фойхт вказав, що визначення коректного поділу тексту для таких систем залишається складним завданням і не має однозначного вирішення.

У матеріалі підкреслюється, що орфографічні та базові мовні операції не є основною функцією подібних моделей, однак зафіксовані помилки демонструють їхні обмеження навіть у простих текстових завданнях.

Нагадаємо, штучний інтелект регулярно допускає великі і дрібні помилки у новинних текстах, тому не може бути надійним джерелом новин. Такого висновку дійшли дослідники Європейського мовного союзу (EBU), які проаналізували відповіді найпопулярніших AI-асистентів різними мовами.