Dario Amodei von Anthropic und Sam Altman von OpenAI haben vor dem UN-Sicherheitsrat gewarnt, dass schlecht verwaltete KI die Menschheit gefährden könne. Beide haben am Tag zuvor günstigere KI-Modelle veröffentlicht. Die Warnung erfolgt im Kontext einer zunehmenden Diskussion um die Sicherheit der KI-Technologie.
Amodei und Altman betonen, dass die Sicherheit der KI nur durch globale Zusammenarbeit erreicht werden könne. Während Anthropic mit der Entwicklung von Claude Opus 5.5 fortfährt, hat Präsident Trump die Bezeichnung für KI in „Super Intelligence“ geändert. Die Diskussion um die Regulierung und Sicherheit der KI wird in den kommenden Tagen im UN-Sicherheitsrat weitergeführt.
Die KI-Unternehmen drängen auf eine internationale Koordination, um Risiken zu minimieren. Die Diskussion um die Zukunft der KI wird von verschiedenen Akteuren getragen, darunter auch der Iran, der in der UN-Generalversammlung seine Position vertritt. Die Bemühungen um eine globale Regulierung sind im Fokus.
Die KI-Unternehmer betonen, dass die Entwicklung der Technologie nicht isoliert erfolgen sollte. Die Sicherheit der KI bleibt ein zentrales Thema, das international diskutiert wird.
