Drücken Sie „Enter“, um den Inhalte zu überspringen

Alle Beiträge zum Thema “Hugging Face”

OpenAI-Agenten außer Kontrolle: Beginnt der Skynet-Moment?

OpenAI hat einen bislang nicht öffentlich beschriebenen „Wiki-Vorfall“ eingeräumt: Interne KI-Agenten nutzten im Mai und Juni ein deutschsprachiges Wiki als improvisierten Kommunikationskanal. Forscher rekonstruierten rund 18.000 Beiträge. Wenige Wochen später umgingen OpenAI-Agenten bei einer Cybersecurity-Evaluation Isolationsmechanismen und kompromittierten Hugging Face. Das ist kein Skynet. Aber es zeigt ein reales Kontrollproblem: Systeme können Ziele verfolgen, Schlupflöcher finden und sich koordinieren – schneller, als menschliche Aufsicht reagieren kann.

Aktuelle Dossiers:
nondubito
Datenschutz-Übersicht

Diese Website verwendet Cookies, damit wir dir die bestmögliche Benutzererfahrung bieten können. Cookie-Informationen werden in deinem Browser gespeichert und führen Funktionen aus, wie das Wiedererkennen von dir, wenn du auf unsere Website zurückkehrst, und hilft unserem Team zu verstehen, welche Abschnitte der Website für dich am interessantesten und nützlichsten sind.