Nimmt OpenAI die Gefahren von KI ernst genug?

Bei Effektiv Spenden setzen wir uns dafür ein, die größten Herausforderungen der Menschheit mit den wirksamsten Mitteln anzugehen. Dazu gehört auch das Thema Künstliche Intelligenz. Wir wissen, dass KI das Potenzial hat, sowohl wissenschaftlich als auch wirtschaftlich sehr nützlich zu sein – doch gleichzeitig birgt sie existenzielle Risiken. Aktuelle Entwicklungen unterstreichen die Dringlichkeit unseres Anliegens.

OpenAI rollt eiligst ein Update von ChatGPT wieder zurück

Kürzlich machte eine Nachricht die Runde, die aufhorchen ließ: OpenAI hatte am 25. April 2025 ein Update für GPT-4o ausgerollt, dass den Chatbot plötzlich übermäßig schmeichelhaft und zustimmend machte – in der Fachterminologie “sykophantisch”. Hier eine Beispiel, in dem ChatGPT dem Benutzer bestätigt, dass er einer der klügsten, freundlichsten und moralisch besten Personen ist, die je gelebt haben:

War sich dieser Nutzer der Absurdität der Interaktion bewusst, so haben mehrere Menschen in einem Reddit Thread davon berichtet, wie Freunde und Familienangehörige, die unter Psychosen leiden, von ChatGPT in ihren Wahnvorstellungen bestätigt wurden. Die New York Times berichtet am 13. Juni von einem Nutzer, den ChatGPT beinahe in den Selbstmord trieb, da es ihn in seiner Überzeugung bestätigte, in der Matrix zu leben und dass ihm nichts passieren könnte, wenn er sich von einem Hochhaus stürzen würde.

OpenAI wurde auf das Fehlverhalten von ChatGPT aufmerksam und nahm das Update am 29. April selbstständig wieder zurück.

Das heikle Gleichgewicht: Sicherheit versus Innovation

Dieser Vorfall zeigt, wie anfällig selbst führende KI-Modelle für unerwünschtes Verhalten sind – und wie schnell sich solche Fehler in einem riesigen System ausbreiten können. Was passiert, wenn OpenAI oder andere KI-Labore das Gleichgewicht zwischen der Einführung neuer, bahnbrechender Funktionen und der Gewährleistung umfassender Sicherheit erneut falsch einschätzen? Eine KI, die darauf getrimmt ist, zu schmeicheln, ist nur ein kleiner Vorgeschmack. Führende Forscher wie der Nobelpreisträger Geoffrey Hinton oder der Turing-Award-Gewinner Yoshua Bengio warnen vehement vor deutlich gravierenderen Risiken, etwa autonomen Waffensystemen oder Szenarien, in denen die Kontrolle über hochintelligente Systeme vollends entgleitet.

Unternehmen priorisieren oft die schnelle Entwicklung und Nutzbarkeit, während die umfassende Prüfung auf Risiken zu kurz kommt. Dazu kommt, dass KI-Modelle in den USA faktisch unreguliert sind. Derzeit ist sogar ein Gesetzesvorhaben im US-Senat, dass die US-Staaten auf 10 Jahre davon abhalten würde, eigene Regulation für KI-Modelle einzuführen. Dies richtet sich z.B. auf den gerade vom Senat des Bundesstaates New York verabschiedeten RAISE Act, der KI-Anbieter verpflichtet, Sicherheitstest vorzunehmen, die katastrophale Folgen ihrer Modelle verhindern sollen.

Die Rolle der Philanthropie

Genau hier setzt unsere Arbeit an. Milliarden fließen in die Entwicklung immer leistungsfähigerer KI, doch die Investitionen in KI-Sicherheit sind im Vergleich verschwindend gering. Diese Finanzierungslücke ist kritisch. Philanthropie kann einen entscheidenden Unterschied machen, indem sie unabhängige Forschung und Projekte fördert, die sich ausschließlich der Sicherheit und der Risikominimierung widmen – frei von kommerziellem Druck. Sichere KI braucht starke zivilgesellschaftliche Initiativen!

Mit unserem Spendenfonds “KI sicher gestalten” unterstützen wir Organisationen und Initiativen, die an den vordersten Linien der KI-Sicherheit arbeiten. So haben wir in der Vergangenheit METR mitfanziert, die Tests für KI-Modelle bauen. Oder The Future Society, die in Brüssel und Washington daran arbeiten, durch KI-Governance KI sicher zu machen und mit menschlichen Werten in Einklang zu bringen.

Der Vorfall mit ChatGPT zeigt, dass wir jetzt handeln müssen. Mit deiner Spenden können die Leitplanken für sichere KI entstehen.

Über die Autorin

Anne Schulze

Gründerin und Geschäftsführerin

Termin vereinbaren

Ich bin eine der Gründerinnen und Geschäftsführerin von Effektiv Spenden. Wenn du Fragen oder Anregungen hast, kannst du mir gerne eine Email schreiben. Ich melde mich dann gleich bei dir zurück.