KI sicher gestalten: Was du konkret tun kannst
Wer in den vergangenen Monaten die Nachrichten über künstliche Intelligenz verfolgt hat, konnte leicht ein ungutes Gefühl bekommen. Medien auf der ganzen Welt haben ausführlich über die bedenklichen KI-Vorfälle dieses Jahres berichtet. Die Systeme werden in hohem Tempo leistungsfähiger. Gleichzeitig zeigen Tests und Vorfälle immer wieder, dass wir sie weder vollständig verstehen noch zuverlässig kontrollieren können. In die Entwicklung immer stärkerer Modelle fliessen Milliarden, in ihre Sicherheit nur ein Bruchteil davon.
Ohnmächtig ist man dieser Entwicklung dennoch nicht. Eine kleine, aber hochqualifizierte Gemeinschaft von Forschenden und Politikfachleuten arbeitet daran, dass fortgeschrittene KI kontrollierbar bleibt. Weil das Feld gemessen an seiner Bedeutung noch immer unterfinanziert ist, kann zusätzliches Geld hier besonders viel bewirken. Wer spenden möchte, kann das über Effektiv Spenden tun, und zwar in der Schweiz wie in Deutschland steuerlich absetzbar, auch wenn die geförderten Organisationen im Ausland tätig sind. Wie viel du dabei sparst, zeigt unser Spenden-Steuer-Rechner.
Unser Spendenfonds «KI sicher gestalten»
Der Weg dazu führt über unseren Spendenfonds «KI sicher gestalten». Er hat ein einziges Ziel: die Risiken fortgeschrittener KI zu verringern, die katastrophale Folgen haben könnten. Wir bündeln die eingehenden Spenden und geben sie zweimal jährlich an jene Organisationen weiter, bei denen zusätzliche Mittel im Moment am meisten bewirken.
Über unsere Spendenfonds haben wir seit 2023 bereits über 1,2 Millionen Franken an Organisationen weitergeleitet, die an der Sicherheit von KI arbeiten. Das Geld stammt von Spenderinnen und Spendern aus der Schweiz, aus Deutschland und aus Österreich.
Warum wir auf Longview Philanthropy vertrauen
Wohin das Geld aus dem Fonds fliesst, entscheiden wir nicht selbst. Wir folgen ausschliesslich den Empfehlungen unseres Partners Longview Philanthropy. Dafür gibt es gute Gründe.
Longview ist eine gemeinnützige Philanthropieberatung, die sich auf die Verringerung globaler Katastrophenrisiken spezialisiert hat. Das KI-Team gehört zu den grössten und erfahrensten Förderteams in diesem Bereich. Es zählt sechs Mitarbeitende und wird seit Januar 2026 von Michael Aird geleitet. Das Team beobachtet das Feld laufend, prüft Organisationen im Detail und steht in engem Austausch mit Forschung, Politik und anderen Geldgebern. So erkennt es, wo eine Organisation zusätzliches Geld wirklich sinnvoll einsetzen kann und wo bereits genügend Mittel vorhanden sind.
Wer in den Fonds spendet, profitiert damit von derselben Expertise, die sonst grossen Stiftungen und Philanthropen vorbehalten ist.
Diese Organisationen haben wir bisher gefördert
METR
- Förderung: rund CHF 123’000 (H1/2023)
METR (Model Evaluation and Threat Research) mit Sitz in Berkeley hat sich aus dem Evaluationsteam des Alignment Research Center entwickelt und ist seit Ende 2023 eigenständig. Gegründet hat die Organisation die ehemalige OpenAI-Forscherin Beth Barnes. METR hat die sogenannten «Evals» massgeblich geprägt: Dabei wird systematisch getestet, über welche gefährlichen Fähigkeiten ein KI-System verfügt. METR hat Modelle von OpenAI, Anthropic, Google DeepMind und anderen vor deren Veröffentlichung geprüft. Grosse Beachtung fand eine Studie aus dem Jahr 2025. Sie zeigt, dass sich die Länge der Aufgaben, die KI-Systeme selbständig bewältigen können, etwa alle sieben Monate verdoppelt. Neuere Daten deuten sogar auf ein noch höheres Tempo hin. Um unabhängig zu bleiben, nimmt METR kein Geld von KI-Unternehmen an. Zudem unterstützt die Organisation das KI-Büro der EU technisch.
RAND – Center on Technology and Security Policy (TASP)
- Förderung: rund CHF 146’000 (H2/2023)
RAND wurde 1948 gegründet und zählt mit rund 2000 Mitarbeitenden zu den einflussreichsten Thinktanks der Welt. Das TASP-Zentrum untersucht, wie Technologien mit doppeltem Verwendungszweck wie KI und Biotechnologie die internationale Sicherheit verändern. Daraus entwickelt es konkrete Handlungsoptionen für Regierungen in den USA, in Europa und bei deren Partnern, etwa zur Kontrolle von KI-Chips und Rechenkapazität. Weil RAND direkt mit politischen Entscheidungsträgern zusammenarbeitet, kann diese Forschung unmittelbar in die Politik einfliessen.
CeSIA – Centre pour la Sécurité de l’IA
- Förderung: rund CHF 183’000 (H1/2024)
Das französische Zentrum für KI-Sicherheit verbindet Aufklärung, Ausbildung und politische Arbeit. CeSIA hat den «Global Call for AI Red Lines» initiiert, der im September 2025 bei den Vereinten Nationen vorgestellt wurde. Er fordert international verbindliche rote Linien, die KI-Systeme nicht überschreiten dürfen. Daneben informiert CeSIA die französische Öffentlichkeit über die Risiken und Chancen einer sicheren KI-Entwicklung.
The Future Society
- Förderung: rund CHF 109’000 (H2/2024)
The Future Society arbeitet an der Regulierung fortgeschrittener KI-Modelle. Die Organisation war massgeblich an der Ausarbeitung des EU-Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck beteiligt, einem zentralen Instrument zur Umsetzung des EU AI Act.
SaferAI
- Förderung: rund CHF 160’000 (H1/2025)
SaferAI ist ein unabhängiges Forschungsinstitut mit Sitz in Paris. Es überträgt bewährte Methoden des Risikomanagements aus Hochrisikobranchen wie der Luftfahrt und dem Finanzwesen auf die KI. In einem öffentlichen Rating bewertet SaferAI, wie gut die führenden KI-Unternehmen ihre Risiken im Griff haben. Zudem hat das Institut die erste unabhängige europäische Risikoprüfung eines Spitzenmodells veröffentlicht. Besonders gross ist der Einfluss von SaferAI bei der Regulierung: Im europäischen Normungsgremium CEN-CENELEC leitet die Organisation die Arbeit am Risikomanagement-Standard für Hochrisiko-KI. Sie war in allen vier Arbeitsgruppen zum EU-Verhaltenskodex vertreten und wurde als einzige KI-Sicherheitsorganisation in eine Taskforce der OECD berufen.
Safe AI Forum (SAIF)
- Förderung: rund CHF 326’000 (H2/2025)
SAIF fördert die internationale wissenschaftliche Zusammenarbeit zur Sicherheit von KI. Kernstück sind die «International Dialogues on AI Safety» (IDAIS). Dort erarbeiten führende KI-Forschende aus den USA, China, Grossbritannien und der EU gemeinsame Positionen zu den grössten Risiken. In Zeiten wachsender geopolitischer Spannungen ist das einer der wenigen verlässlichen Gesprächskanäle zwischen den wichtigsten KI-Nationen.
Die Förderungen aus dem ersten Halbjahr 2026 fehlen hier noch. Nach Ende eines Halbjahres gleichen wir zuerst alle Spendeneingänge ab. Auf dieser Grundlage erarbeitet Longview seine Empfehlungen. Danach folgen die rechtliche Prüfung und die Abstimmung mit den Organisationen. Die Förderungen aus dem ersten Halbjahr 2026 veröffentlichen wir in zwei bis drei Wochen.
Nah an der Szene, auch in der Schweiz
Wie lebendig die KI-Sicherheits-Community inzwischen auch hierzulande ist, haben am 7. und 8. November die Swiss AI Safety Days im Hauptgebäude der ETH Zürich gezeigt. Die Veranstaltung ist offizieller Teil der «Road to Geneva» hin zum KI-Gipfel in Genf 2027. Höhepunkt war die Keynote von Yoshua Bengio, Turing-Preisträger, Professor an der Université de Montréal und meistzitierter KI-Forscher der Welt. Neben ihm sprachen unter anderem Stuart Russell (UC Berkeley) und Adam Gleave (FAR.AI) sowie Fachleute von Google DeepMind, Anthropic, der ETH und der EPFL. Bereits die erste Ausgabe im Vorjahr war an den Swiss AI Weeks 2025 als bester von über 230 Anlässen ausgezeichnet worden.
Durch solche Anlässe und unsere Partnerschaft mit Longview sind wir eng mit der Szene vernetzt. Wenn du Fragen zu einer bestimmten Organisation oder einem Ansatz hast, helfen wir gerne weiter oder stellen den Kontakt her.
Persönliche Spendenberatung
Du möchtest mehr erfahren, denkst über eine grössere Spende nach oder bist unsicher, welcher Weg für dich der richtige ist? Dann melde dich für eine kostenlose Spendenberatung. Wir nehmen uns gerne Zeit für dich.
Über den Autor
Country Manager Schweiz
Weitere Blogposts zu KI
Hole dir unseren Newsletter
Wir versorgen dich mit Tipps und Neuigkeiten, wie du die Welt effektiv verbessern kannst.
15.779 Menschen lesen schon mit.
Das Formular konnte nicht geladen werden, vermutlich wegen eines Werbe- oder Script-Blockers. Deaktiviere ihn für diese Seite oder schreib uns an info@effektiv-spenden.org.
