Zukunft bewahren

Unser Spendenfonds: Zukunft bewahren zielt darauf ab, besonders vielver­sprechende Maßnahmen zu unterstützen, um so die größten bekannten Risiken für die Menschheit zu verringern. Dabei soll der Fonds sowohl Bedrohungen für die langfristige Zukunft der Menschheit adressieren als auch Maßnahmen fördern, die zum Schutz aller heute lebenden Menschen beitragen.

Über die Vergabe der Mittel aus unserem Spendenfonds entscheiden wir halbjährlich zusammen mit der gemeinnützigen Philanthropieberatung Longview Philanthropy und orientieren uns dabei an deren Emerging Challenges Fund. Dieser konzentriert sich auf hochwirksame und vernachlässigte Initiativen, um die Wahrscheinlichkeit globaler Katastrophen zu verringern und ihre Auswirkungen abzumildern. Dazu zählen Konflikte zwischen Großmächten, Atomkriege, Pandemien, künstlich herbeigeführte biologische Waffen, katastrophale Laborunfälle und aufkommende Risiken durch neue militärische und zivile Technologien, einschließlich künstlicher Intelligenz (KI). In der Vergangenheit haben wir im Rahmen dieses Spendenfonds auch mit dem Global Catastrophic Risks Fund des Instituts Founders Pledge zusammengearbeitet.

Unser Spendenfonds widmet sich einer komplexen Aufgabe in einer sich ständig verändernden Bedrohungslandschaft. Wenn Du die Verringerung existenzieller Risiken für besonders wichtig hältst, um zum langfristigen Überleben und Wachstum möglichst vieler Generationen von Menschen beizutragen, bietet der Fonds einen hochwirksamen Ansatz. Vielleicht bist Du aber auch aus dem einfachen Grund an dem Fonds interessiert, dass Du helfen möchtest, den Tod und das Leid von Milliarden heute lebender Menschen zu verhindern.

Der Spendenfonds: KI sicher gestalten richtet sich an Spenderinnen und Spender, die sich im Themenfeld Zukunft bewahren voll auf Risiken durch fortgeschrittene Künstliche Intelligenz (KI) fokussieren möchten.

KI birgt viel Potential, aber kann auch eine Gefährdung für die Menschheit darstellen. Die Fähigkeiten fortgeschrittener KI sind in den vergangenen Jahren rasant gewachsen. Eine KI, die den Menschen intellektuell überholt hat, könnte in der Lage sein, erheblichen Einfluss auf ihre Umwelt zu nehmen und der menschlichen Kontrolle entgleiten.^[1] Zudem besteht die Gefahr, dass solch eine einflussreiche Technologie in die falschen Hände gerät. Mit der Hilfe von KI, könnten Terroristen versuchen, Pandemieviren zu entwickeln^[2] oder staatliche Gegenspieler Cyberattacken nie gesehenen Ausmaßes durchführen^[3]. Wie hunderte Forscherinnen, darunter die Nobelpreisträger Geoffrey Hinton und Demis Hassabis, im Mai 2023 erklärten: „Das Risiko, dass Künstliche Intelligenz (KI) zur Auslöschung der Menschheit führt, sollten wir genauso ernst nehmen wie andere Risiken globalen Ausmaßes, wie etwa Pandemien und nuklearen Krieg.“

Unser Spendenfonds folgt, wie auch der allgemeinere Spendenfonds „Zukunft bewahren“, den Empfehlungen unseres Partners Longview Philanthropy. In der Vergangenheit haben wir sowohl Organisationen unterstützt, die durch technische Lösungen zu sicherer KI beitragen, als auch solche, die v.a. auf regulatorische Ansätze setzen. METR etwa baut Tools, die Large Language Models auf gefährliches Verhalten testen. CeSIA versucht, die französische Politik, Wirtschaft und Wissenschaft für die Risiken von KI zu sensibilisieren.