Google відмовився від пошукових відповідей штучного інтелекту після того, як сказав користувачам їсти клей

Ліз Рід, керівник пошукового відділу Google, сказала: Публікація в блозі У четвер вдень компанія звузила деякі відповіді щодо ШІ, які вона назвала «Огляди ШІ». Компанія скоротила використання публікацій у соціальних мережах як джерела відповідей ШІ, призупинила деякі відповіді на теми, пов’язані зі здоров’ям, і «додала заохочувальні обмеження для запитів, де огляд ШІ не виявився корисним», — сказав Рід у дописі. . Рід сказав, що компанія внесла більше десятка технічних змін, спрямованих на вдосконалення системи.

Ця зміна є останнім прикладом того, як Google запускає продукт ШІ з великою помпою, а потім відмовляється від нього, коли він пішов не так. У лютому минулого року компанія заборонила користувачам фотографувати людей за допомогою свого фотоінструменту AI після того, як консервативні коментатори звинуватили її в упередженості щодо білих людей.

Технологічна галузь переживає революцію штучного інтелекту, і стартапи, і технічні гіганти намагаються знайти нові способи застосувати технології у своїх продуктах і заробити на цьому гроші. Багато інструментів запускаються до того, як вони готові до використання, оскільки компанії змагаються за те, щоб першими продати свої продукти та представити себе передовими.

Google, співробітники якої винайшли багато передових інструментів штучного інтелекту, таких як ChatGPT, намагається довести інвесторам, споживачам і своїм співробітникам, що вона все ще є найважливішим гравцем у галузі. На I/O цього місяця компанія зробила понад 100 різних оголошень, пов’язаних зі ШІ.

Найбільшим було підтвердження того, що він почне розгортати згенеровані ШІ відповіді в результатах пошуку для більшості своїх користувачів. Google тестував AI Answers протягом року з вибраною групою користувачів, але додавання його до більшої кількості результатів пошуку означає, що більшість людей тепер почнуть безпосередньо взаємодіяти з генеративним AI на інструменті, яким вони користуються щодня.

Техніка працює шляхом читання веб-сайтів, які можуть з’являтися в результатах пошуку Google, а потім узагальнення їх у відповіді з кількох абзаців. Видавці заперечували, звинувачуючи компанію в завданні шкоди їхньому бізнесу, беручи їхній вміст і повертаючи його користувачам безпосередньо в результатах пошуку, позбавляючи їх важливого веб-трафіку.

Але журналісти, експерти з пошукових систем і користувачі соціальних мереж швидко почали виявляти проблеми через відповіді. Деякі відповіді були смішними, а інші викликали занепокоєння. Вони також з’являлися для конфіденційних запитів, у тому числі щодо здоров’я.

Одна відповідь, яку Google згодом виправив, попросила людей пити багато сечі, щоб допомогти вимити камені з нирок. Інший сказав, що Джон Кеннеді закінчив Університет Вісконсіна в Медісоні в шість різних років, три з них після його смерті.

Google намагався протестувати інструмент якомога більше, перш ніж запустити його в більшому масштабі, але Рід сказав, що масштабний запуск виявив багато ситуацій, до яких компанія не була готова.

«Немає нічого подібного до того, як мільйони людей використовують цю функцію», — сказав Рід.