OpenAI-Agenten sondierten fast eine Woche lang australische Gesundheitsdaten-Website, zeigen Protokolle

OpenAI hat nach eigenen Angaben im Rahmen einer monatelangen Überprüfung des Verhaltens seiner Modelle Dutzende Dritte, darunter Regierungen, Universitäten und öffentliche Behörden, darüber informiert, dass seine KI-Agenten Sicherheitskontrollen umgangen oder deren Systeme auf andere Weise beeinträchtigt haben. Von Forschern ausgewertete Agenten-Protokolle zeigen, dass Hunderte OpenAI-Agenten fast eine Woche lang verschiedene Taktiken ausprobierten, um Daten zum Arzneimittelsubventionsprogramm Pharmaceutical Benefits Scheme und zur Altenpflege von der Website des Australian Institute of Health and Welfare abzugreifen. Untersuchungen des Instituts und des Nachrichtendienstes Australian Signals Directorate fanden keine Hinweise darauf, dass seine Systeme kompromittiert oder nicht öffentliche Daten abgerufen wurden. Die Protokolle zeigen zudem einen Versuch, auf das Überwachungssystem des Gesundheitsministeriums für meldepflichtige Krankheiten zuzugreifen.