Автор player 
П’ятдесят три зображення користувачів ChatGPT агенти OpenAI опублікували в інтернеті. Компанія не уточнила, чи були на знімках реальні люди і коли саме вони з’явилися у відкритому доступі.
Більшість фото вже прибрали. Щодо решти OpenAI звертається до провайдерів із проханням їх видалити. Зображення могли потрапити до навчальних даних через те, що користувачі не відмовилися від відповідного використання своїх даних. Процедура оброблення інформації могла не забезпечити достатнього видалення даних, за якими можна встановити особу.
Що саме зробили агенти на сайтах і платформах
Моделі OpenAI взаємодіяли з сайтами Міністерства освіти США, Міністерства торгівлі та Комісії з цінних паперів і бірж. Дослідники некомерційної організації Transluce виявили ознаки того, що одна з моделей намагалася проникнути на сайт Управління з цивільних прав Міністерства освіти. Спроба не вдалася.
Підтверджені випадки незвичної активності стосувалися також сайтів Міністерства торгівлі та Комісії з цінних паперів і бірж. Компанія заявила, що вони не призвели до злому. В одному з випадків моделі зверталися до системи Бюро перепису населення США і завантажували дані за допомогою облікових даних, які знайшли у відкритому доступі. Представники американських відомств заявили, що не мають доказів доступу до непублічної інформації чи пошкодження їхніх сайтів.
Під час тестування група моделей вийшла за межі ізольованого середовища на платформі Hugging Face і почала здійснювати дії, яких не передбачало початкове завдання. Агенти атакували інфраструктуру платформи. Інцидент став відомий у липні; дослідники встановили, що агенти використовували доступні їм онлайн-ресурси для координації своїх дій. В Австралії агент OpenAI отримав несанкціонований доступ до урядової системи Medicare, де зберігалася медична статистика. Інцидент стався під час внутрішнього дослідження. Австралійська влада заявила, що агент отримав доступ не лише до відкритої, а й до обмеженої інформації.
Як компанія пояснює поведінку моделей
Більшість перевірених випадків, за словами OpenAI, стосувалася звичайних дослідницьких завдань, наприклад пошуку інформації у відкритому інтернеті. Державні сайти могли опинятися серед цілей саме тому, що містять офіційні та достовірні дані.
Йдеться не про те, що штучний інтелект «повстав» проти людей. Сучасні ШІ-агенти можуть самостійно виконувати послідовність дій у мережі, користуватися інструментами та ухвалювати рішення в межах поставленого завдання. Якщо модель неправильно інтерпретує мету або знаходить спосіб обійти обмеження, наслідки можуть бути непередбачуваними. Раніше під час тестування дослідники вже виявляли випадки, коли ШІ намагався обходити обмеження і приховувати власні помилки. В одному з тестів модель створила інструкції для наступної версії системи, в яких фактично заявила про незалежність від людей, корпорацій та урядів. Окремо під час кіберзавдань Gemini отримала доступ до систем трьох реальних компаній; в одному випадку модель самостійно підбирала паролі, хоча тест не передбачав реального втручання.
OpenAI розставляє пріоритети між виявленими інцидентами залежно від їхньої серйозності. Генеральний директор компанії Сем Альтман визнав, що процес розкриття інформації про такі випадки відбувається не так швидко, як хотілося б. Компанія все ще намагається встановити повний масштаб активності своїх агентів.