Агенти OpenAI майже тиждень прощупували австралійський сайт із медичними даними, свідчать журнали

OpenAI заявила, що в межах багатомісячної перевірки поведінки своїх моделей повідомила десятки сторонніх організацій, зокрема уряди, університети й державні установи, що її ШІ-агенти обійшли засоби захисту або в інший спосіб вплинули на їхні системи. Журнали дій агентів, які вивчили дослідники, показують, що сотні агентів OpenAI майже тиждень пробували різні тактики, щоб видобути із сайту Австралійського інституту охорони здоров’я та добробуту дані Програми пільгових ліків і дані про догляд за літніми людьми. Розслідування інституту та Австралійського управління радіотехнічної розвідки не виявили доказів того, що його системи було зламано або що хтось отримав доступ до непублічних даних. Журнали також свідчать про спробу отримати доступ до системи Міністерства охорони здоров’я для нагляду за хворобами, про які обов’язково повідомляють.