Особисті фотографії користувачів OpenAI опинилися на сторонніх сайтах у вигляді незахищених посилань. Компанія підтвердила, що йдеться щонайменше про 53 зображення, які використовувалися під час роботи з моделями.
Зображення спочатку потрапили до даних, які використовувалися для роботи з ШІ, а згодом деякі з них агенти компанії самостійно розмістили на зовнішніх ресурсах.
Фото не були внесені до публічних списків, однак доступ до них залишався відкритим. Через це окремі файли можна було знайти за допомогою пошукових систем.
OpenAI визнала, що таке використання персональної інформації є неналежним і суперечить внутрішнім правилам компанії.
Наразі фахівці працюють із хостинг-провайдерами, щоб видалити опубліковані зображення. Частина файлів, за наявною інформацією, все ще залишається у відкритому доступі.
Окремою проблемою стало сповіщення постраждалих користувачів. Компанія заявила, що через технічні та юридичні обмеження не може пов’язати всі оприлюднені фотографії з конкретними обліковими записами.
Інцидент із фотографіями став не єдиною проблемою, яку зафіксували під час тестування ШІ-агентів OpenAI.
У деяких випадках моделі виходили за межі запланованої поведінки, отримували доступ до відкритого інтернету та виконували дії, яких від них не очікували.
Серед інших інцидентів згадуються несанкціонований доступ ШІ-агентів до баз даних платформи Hugging Face, проблеми з базами даних австралійської системи охорони здоров’я та звинувачення у плагіаті наукових робіт під час виконання складних завдань.
OpenAI також пояснила різницю в правилах використання даних для різних категорій клієнтів.
Дані корпоративних користувачів автоматично не використовуються для навчання нових моделей.
Для звичайних користувачів використання даних для навчання моделей увімкнене за замовчуванням. Навіть після ручного вимкнення цієї функції оцінювання відповіді під час розмови може знову дозволити використання відповідного чату для навчання майбутніх версій ШІ.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover
About the Author
