Forscherin Dunja Sabra hat untersucht, ob KI-Systeme wie ChatGPT, Claude oder DeepSeek für die Entwicklung biologischer Waffen genutzt werden können. In einem Experiment versuchte sie, Anweisungen für die Herstellung solcher Waffen an KI-Modelle zu senden. Die KI antwortete mit detaillierten, aber nicht direkt umsetzbaren Informationen. Sabra betont, dass die Ergebnisse keine direkte Anleitung zur Herstellung biologischer Waffen enthielten, aber dennoch potenziell gefährdete Informationen bereitstellten.
Die Forschung wurde im Rahmen eines Friedensforschungsprojekts durchgeführt. Sabra warnt vor der Gefahr, dass KI-Systeme missbraucht werden könnten, um Informationen zu sammeln, die für die Entwicklung biologischer Waffen nützlich sind. Sie betont, dass die KI zwar keine direkten Anweisungen für die Herstellung solcher Waffen geben kann, aber dennoch relevante Daten bereitstellen könnte.
Biologische Waffen sind ein Thema, das international streng reguliert ist. Die Forschung von Sabra unterstreicht die Notwendigkeit, KI-Systeme im Hinblick auf mögliche Missbrauchsfälle zu überwachen. Die Ergebnisse ihres Experiments zeigen, dass KI-Modelle in der Lage sind, Informationen zu liefern, die für die Entwicklung solcher Waffen relevant sein könnten. Die Forschung wird nun in weiteren Studien vertieft, um mögliche Risiken besser zu verstehen.
