746.000 € für nukleare Sicherheit und sichere KI

Spenden

Im zweiten Halbjahr 2025 haben wir in Deutschland und der Schweiz zusammen €746,000 an Spenden für unsere Spendenfonds Zukunft bewahren und KI sicher gestalten eingenommen. Die Spendengelder verteilen sich wie folgt:

• Zukunft bewahren: 606.000 € von 1.774 Spendern
• KI sicher gestalten: 140.000 € von 179 Spendern

Das entspricht einem Anstieg  

• der Spendensumme um 29% im Vergleich zum Vorjahreszeitraum, und
• der Spenderanzahl um 49% im Vergleich zum Vorjahreszeitraum.

Die Nachfrage nach Spendenmöglichkeiten, um Organisationen zu helfen, die sich für die Verringerung katastrophaler Risiken einsetzen, ist also signifikant gestiegen.

Verwendung

Für die Vergabe unsere Spendenfondsmittel arbeiten wir zusammen mit Longview Philanthropy. Longviews Programmteams für Nuklearwaffenpolitik und KI-Sicherheit gehören zu den größten und erfahrensten in ihren jeweiligen Förderbereichen.

Die Spendengelder des zweiten Halbjahres 2025 wurden wie folgt verteilt:

• Geneva Graduate Institute: 170.000 € (aus dem Spendenfonds: Zukunft bewahren)
• Bulletin of Atomic Scientists: 220.000 € (aus dem Spendenfonds: Zukunft bewahren)
• Safe AI Forum: 356.000 € (aus den Spendenfonds KI sicher gestalten und Zukunft bewahren)

Geneva Graduate Institute

Maßnahmen zur Verhinderung nuklearer Eskalation

Mit dem Auslaufen des New-START-Abrüstungsvertrags zwischen den USA und Russland ist das Risiko eines nuklearen Wettrüstens zwischen den Großmächten gestiegen – mit erheblichen Auswirkungen auf die europäische und internationale Sicherheit. Wir unterstützen daher ein Projekt am Center on Conflict, Development and Peacebuilding des Geneva Graduate Institute, das untersucht, welche Maßnahmen dazu beitragen können, ein neues nukleares Wettrüsten zu verhindern und das Risiko einer nuklearen Eskalation zu senken.

Das Projekt bringt Sicherheitsexperten für Workshops zu diesen Themen zusammen und präsentiert die daraus resultierenden Analysen politischen Entscheidungsträgern, einschließlich des US-Kongresses, sowie der breiteren Fachöffentlichkeit.

Bulletin of the Atomic Scientists

Aufklärung der Öffentlichkeit über nukleare Risiken

Das Bulletin of the Atomic Scientists ist eine 1945 gegründete US-amerikanische Non-Profit-Organisation, die vor allem für die Doomsday Clock bekannt ist. Mit euren Spendengeldern wird das Projekt „New Histories, Media, and Tools for Nuclear Engagement” umgesetzt, welches Prof. Alex Wellerstein leiten wird. Er ist Professor am Stevens Institute of Technology und Entwickler der NUKEMAP – einer Online-Simulation von Atomwaffeneffekten, die seit 2012 von über 60 Millionen Menschen genutzt wurde.

Ziel des Projekts ist es, mittels neuer Inhalte und Tools eine breite Öffentlichkeit über nukleare Risiken aufzuklären. Dazu gehören knapp 50 historische Artikel für die Website des Bulletins, die nukleare Geschichte nutzen, um gängige Annahmen zu hinterfragen und das öffentliche Verständnis von nuklearen Risiken zu aktualisieren. Zudem entstehen 24 ausführliche Video-Essays für YouTube und Nebula zu Geschichte, Technologie und Politik. Damit füllt das Projekt eine Lücke auf diesen Plattformen, die derzeit fast ausschließlich von Nicht-Experten in Nuklearfragen besetzt ist. Begleitet wird dies von einer zeitlich auf die Doomsday Clock abgestimmten Podcast-Miniserie.

Darüber hinaus werden rund sechs interaktive Online-Tools entwickelt. Die NUKEMAP erhält ein modernisiertes Interface und eine offizielle Mobile-App. Weitere Tools umfassen ein aktualisiertes MISSILEMAP, Simulationen zu Reaktorunfällen und den realistischen Folgen eines nuklearen Schlagabtauschs sowie interaktive Datenbanken. Zusätzlich entsteht ein kostenloses Open-Source-Toolkit, das anderen NGOs ermöglicht, eigene kartenbasierte Web-Tools zu entwickeln und die dafür anfallenden Kosten um rund 90 % zu senken.

Safe AI Forum

Internationale wissenschaftliche Kooperation zur KI-Sicherheit

Fortgeschrittene KI-Systeme bergen komplexe, globale Risiken, die sich nur durch grenzüberschreitende Forschung und ein gemeinsames technisches Verständnis bewältigen lassen. Mit 356.000 € aus dem Spendenfonds unterstützen wir ein Projekt des Safe AI Forums (SAIF), das gezielt die internationale wissenschaftliche Zusammenarbeit im Bereich der KI-Sicherheit fördert.

Im Zentrum des Projekts stehen die International Dialogues on AI Safety (IDAIS). SAIF gelingt es hierbei, ein „Who-is-Who” der globalen KI-Forschung an einen Tisch zu bringen. Die Dialoge vereinen führende Köpfe aus den USA, China, Großbritannien und der EU – darunter Turing-Preisträger (der „Nobelpreis der Informatik”) wie Yoshua Bengio, Andrew Yao und Geoffrey Hinton, sowie Koryphäen von Elite-Institutionen wie Berkeley, dem MIT, Oxford und der Tsinghua-Universität. Diese exklusive Zusammenkunft der weltweit einflussreichsten KI-Entwickler und Wissenschaftler ermöglicht es, ein fundiertes, länderübergreifendes Verständnis für die technischen Herausforderungen moderner KI-Modelle zu schaffen.

Durch die Vernetzung dieser Top-Experten trägt SAIF maßgeblich dazu bei, die wissenschaftlichen Grundlagen für eine sichere, globale KI-Entwicklung zu festigen.

Weitere Neuigkeiten

Neuer Podcast

Effektiv Spenden hat seinen eigenen Podcast gestartet. In einer der ersten Folgen sprechen wir mit Martin Milbradt, der für METR mit an ihrer Forschung zu Coding-Fähigkeiten von KI gearbeitet hat. Martin erklärt, wie METR zu der Schlussfolgerung kommt, dass KI-Fähigkeiten auf einer exponentiellen Wachstumskurve sind und welche daraus resultierenden Risiken ihm besonders Sorgen machen.

Anthropics neuestes KI-Modell zu gefährlich?

Anthropic verkündete im April 2026, dass es sein neues KI-Modell „Mythos” nicht veröffentlichen wird, da dessen Cybersecurityfähigkeiten zu stark seien und dadurch ein zu großes Risiko für die Allgemeinheit bestehe. Als Evidenz dafür veröffentlichen sie einen Report, in dem sie behaupten, Mythos hätte 1.000 Sicherheitslücken in den wichtigsten Betriebssystemen und Browsern gefunden. Die größten Techunternehmen wurden daraufhin von Anthropic zu „Project Glasswing” eingeladen, das ihnen erlaubt, Mythos zu nutzen, um bestehende Sicherheitslücken zu schließen. Einige Stimmen, wie der Chef der US-Zentralbank, nahmen diese Warnung sehr ernst.

Aus Cybersecuritykreisen kommt teilweise sehr viel Skepsis. Etwa war eine der wichtigsten genannten Sicherheitslücken in Firefox nur dann ausnutzbar, wenn Standard-Sicherheitseinstellungen nicht eingeschaltet waren. Und auch das UK AI Security Institute, das das Modell testen durfte, spricht zwar davon, dass sie mittels des Modells eine 32-stufige Attacke auf ein Unternehmensnetzwerk durchführen konnten, sagen aber selbst, dass sie sich unsicher sind, ob gut gesicherte Systeme Mythos nicht standhalten könnten.

Die Crux bei all dem: Wir müssen uns größtenteils auf die Aussagen von Anthropic verlassen. Damit wir uns auf die Risiken von fortgeschrittener KI vorbereiten können, muss es mehr unabhängige Forschung und Überprüfungsmechanismen geben.

US-Regierung will bei Veröffentlichung von KI-Modellen mitreden

Im Nachgang der Mythos-Saga hat die US-Regierung nun Anthropic verboten, im Rahmen vom „Project Glasswing” weiteren Firmen Zugang zu Mythos zu geben. Wie Shakeel Hashim von Transformer (einem Projekt des Tarbell Center for AI Journalism, das Effektiv Spenden in der Vergangenheit auch schon finanziell unterstützt hat) schreibt, ist dies ein gutes Zeichen in dem Sinne, dass die US-Regierung nun vielleicht doch allmählich erkennt, dass KI staatliche Kontrolle braucht. Auf der anderen Seite kritisiert er, dass es systematische Regulierung braucht, und nicht bloße ad hoc Entscheidungen.

Auswirkung von KI auf die Wirtschaft

Ein Maßstab dafür, wie transformativ KI wirklich sein wird – und damit, wie groß die mit ihr verbundenen Chancen und Risiken sind – ist ihre Auswirkung auf die Wirtschaft und den Arbeitsmarkt. Die Entwickler von KI prophezeien starke Effekte. Aber was denken Ökonomen?

Ein neues Paper der Federal Reserve Bank of Chicago und des Forecasting Research Institutes untersucht systematisch die Vorhersagen von Ökonomen, KI-Industrieexperten und „Superforecastern”. Die Studie zeigt, dass Ökonomen und KI-Experten relativ ähnliche Erwartungen haben, wie schnell sich KI entwickeln wird. Die Uneinigkeit besteht v.a. darin, wie stark sich der technische Fortschritt auf Wirtschaftswachstum auswirken wird. Im Falle raschen Fortschritts erwarten Ökonomen „lediglich” 3,5% jährliches BIP-Wachstum bis 2050 (2025 lag es bei 2,4%), KI-Experten hingegen 5,3%.

Neuer AI Program Director bei Longview

Michael Aird hat im Januar 2026 als neuer AI Program Director bei Longview Philanthropy angefangen. Er leitet das Team, das für uns vielversprechende Organisationen wie SAIF findet. Michael war zuletzt als Forscher bei RAND und hat davor das Institute for AI Policy and Strategy mit aufgebaut.

Das KI-Team besteht aus insgesamt 6 Mitarbeitern. Das Team, das sich auf nukleare Risiken fokussiert und von dem die Empfehlungen für das Bulletin of the Atomic Scientists und das Geneva Graduate Institute kam, besteht aus 4 Mitgliedern und wird von Carl Robichaud geleitet. Fun Fact: Carl hat die Inspiration für den Titel des Netflix Films „A House of Dynamite” geliefert.

Über die Autorin

Anne Schulze

Gründerin & Geschäftsführerin

Termin vereinbaren

Ich bin eine der Gründerinnen und Geschäftsführerin von Effektiv Spenden. Wenn du Fragen oder Anregungen hast, kannst du mir gerne eine Email schreiben. Ich melde mich dann gleich bei dir zurück.