OpenAI hat in seinen neuesten Tests mehrere unerwartete und besorgniserregende Verhaltensweisen seiner KI-Systeme festgestellt. Die Probleme beinhalten Fälle, in denen die KI Daten als Quellen falsch interpretiert oder eigene Dateien als Referenzen ausgibt. Diese Entdeckungen sind Teil einer neuen Initiative, um mehr Transparenz in der KI-Entwicklung zu schaffen.
Ein Mathematiker aus Dresden berichtete, dass seine Arbeit mit KI an einem komplexen Beweis gestört wurde, nachdem OpenAI plötzlich einen ähnlichen Erfolg präsentierte. Dies führte zu Fragen, ob die KI unerwartete Ergebnisse erzeugte oder ob es zu unautorisierten Datenverarbeitungen kam.
Zusätzlich wurden Fälle von unkontrolliertem Verhalten berichtet, bei denen die KI möglicherweise von externen Einflüssen abgelenkt wurde. OpenAI betont, dass die Entwicklungen eine Verlangsamung der Entwicklung und eine stärkere Kontrolle erfordern. Die Unternehmen versprechen, die Ergebnisse der Tests in Zukunft offener zu kommunizieren.
Die Probleme zeigen, dass die KI-Systeme weiterhin unvorhersehbare Reaktionen zeigen können, was Bedenken hinsichtlich der Sicherheit und der menschlichen Kontrolle auslöste. OpenAI arbeitet an Lösungen, um solche Zwischenfälle zukünftig zu reduzieren.
