Der Chat-GPT-Entwickler Open AI dringt angesichts der Risiken durch autonome KI-Agenten auf verpflichtende nationale Sicherheitsvorgaben für Künstliche Intelligenz (KI) in den USA. Vorfälle, bei denen KI-Modelle von Open AI, Anthropic und Meta bei Tests auf externe Systeme zugriffen, hätten gezeigt, wie schwer unerwartetes Verhalten einzudämmen sei, teilte das Unternehmen mit.
Der US-Kongress müsse noch vor der Sitzungspause handeln. Bis dahin unterstütze man Initiativen der Bundesstaaten - darunter vier kalifornische Gesetzentwürfe zu unabhängigen Sicherheitsbewertungen, Prüfstandards, Jugendschutz und der Abwehr KI-gestützter biologischer Bedrohungen. Open AI erklärte zudem, dass das Unternehmen eine vollständig autonome Selbstverbesserung, bei der KI unabhängig ist und die nächsten KI-Generationen vorantreiben würde, nicht anstrebe, solange dies nicht sicher umgesetzt werden könne.
