Es braucht (mehr) Philanthropie für sichere KI

Mit dem Release von ChatGPT im November 2022 wurde einer breiten Öffentlichkeit die Fähigkeiten moderner Künstlicher Intelligenz vor Augen geführt. Ihre Anwendungsfelder sind vielfältig. Sie erstrecken sich vom Programmieren, dem Erstellen von Werbetexten über die Entwicklung neuer Medikamente bis hin zur militärischen Nutzung. Kurz gefasst, verspricht KI die maschinelle Automatisierung menschlicher Intelligenz. Sollte uns dies gelingen, sind die Auswirkungen unüberschaubar. Eine Welt, in der Maschinen (fast) alle kognitive Aufgaben schneller und besser als Menschen erledigen, und das für einen Bruchteil der Kosten von menschlicher Arbeit, stellt einen Paradigmenwechsel dar. Historisch gesehen wäre dies nur vergleichbar mit der industriellen Revolution. So schätzen manche Forscher, dass KI zu einem jährlichen Wirtschaftswachstum von 20 bis 30 Prozent führen könnte – d.h., die globale Wirtschaft würde sich alle zweieinhalb Jahre verdoppeln bzw. Innerhalb von 35 Jahren vertausendfachen.

Eine solch radikal andere Zukunft verspricht nicht nur Vorteile. Wenige Monate nach der Veröffentlichung von ChatGPT wurden auch die Medien auf eine Sorge aufmerksam, die KI-Forscher, vereinzelte philanthropische Organisationen und Think Tanks schon seit nahezu einem Jahrzehnt umtreibt: existentielle Risiken durch KI. Eine KI, die den Menschen intellektuell überholt hat, könnte in der Lage sein, erheblichen Einfluss auf ihre Umwelt zu nehmen und der menschlichen Kontrolle entgleiten. Eine Grund anzunehmen, dass dies passieren könnte, ist die sogenannte instrumentelle Konvergenzthese: Intelligente Systeme werden versuchen, Ressourcen an sich zu ziehen, die für die Erfüllung ihrer Ziele hilfreich sind. Dadurch können sie in einen Wettstreit um eben diese Ressourcen mit der Menschheit gelangen, in dem Letztere unterliegt. Ein anderes Risiko besteht darin, dass ein Wettrennen der Supermächte USA und China um die leistungsfähigste KI zu einem neuen Wettrüsten mutiert, das die globale Weltordnung ins Wanken bringt.

Die Gesellschaft hat sich in Bewegung gesetzt

Diese Überlegungen haben Yoshua Bengio und Geoffrey Hinton, zwei „Godfathers of AI“, deren Forschung die Grundlagen dieser Technologie gelegt haben, dazu geführt, öffentlich vor der Gefahr der Auslöschung der Menschheit durch KI zu warnen. Zusammen mit anderen Forscherinnen, Unternehmern, Politikerinnen und Philanthropen, wie Bill Gates, Audrey Tang, bis vor kurzem Taiwanesische Ministerin für Digitales, oder OpenAI-CEO Sam Altman, erklärten sie im Mai 2023, dass das Verhindern einer existentiellen Katastrophe durch KI eine gewaltige gesellschaftliche Aufgabe sei, vergleichbar mit der Verhinderung von Pandemien und Atomkrieg.

Andere Akteure haben ebenfalls auf diese neuen Herausforderungen reagiert. Gingen 2017 noch geschätzt 9 Millionen US-Dollar aus philanthropischen Mitteln an Forschung zu Zwecken sicherer KI, so waren es 2023 schon etwa 100 Millionen US-Dollar. Seit kurzem haben auch Regierungen das Thema KI-Sicherheit entdeckt. Vorreiter ist hier die britische Regierung, die im letzten Jahr eine „Frontier AI Taskforce“ aufgesetzt hat, welche die Risiken von KI erforschen soll und mit 100 Millionen Pfund ausgestattet wurde (zu deren Beratern u.a. auch Yoshua Bengio gehört). Im Mai 2023 fand bei London der erste „AI Safety Summit“ statt, an dem u.a. Rishi Sunak und Kamala Harris teilnahmen. Zu guter Letzt haben auch die großen KI-Firmen eigene Forschungsabteilungen, die der KI-Sicherheit gewidmet sind.

Also alles im Griff?

Können wir uns also entspannt zurücklehnen? Ganz so einfach ist es leider nicht.

Zunächst sollte man sich veranschaulichen, in welchem Verhältnis diese Summen zu dem stehen, was in die Weiterentwicklung der KI fließt. Den 100 Millionen US-Dollar, die 2023 aus philanthropischen Mitteln für die Minderung von KI-Risiken eingesetzt wurden, stehen im gleichen Zeitraum geschätzte 24 Milliarden gegenüber, die allein in generative KI investiert wurden – rund 240 mal mehr.

Schauen wir auf die KI-Firmen im Besonderen, ist zu bedenken, dass diese starke ökonomische Anreize haben, im Zweifelsfalle Sicherheitsbedenken hinten anzustellen. Ein Anzeichen dafür war der Exodus mehrerer Forscher und Entwickler von OpenAI, die zuvor in dessen „Superalignment Team“ an der Kontrollierbarkeit von KI-Systemen gearbeitet hatten. Hier begegnen wir, was politische Ökonomen als „Externalitäten“ beschreiben: OpenAI und andere Firmen tragen nur einen winzigen Bruchteil der Kosten von KI-Risiken aber erwirtschaften signifikante Profite, ähnlich zu großen Ölkonzernen, welche die Kosten des Klimawandels nicht ausreichend einpreisen. Des Weiteren fokussieren sich die KI-Firmen alleine auf technische Lösungen, also versuchen KI-Systeme zu bauen, die im Sinne des Erfinders handeln. Zu einem vollständigen Risikomanagement gehört es aber auch, für den Fall vorzubauen, in dem diese Anstrengungen fehlschlagen, z.B., indem staatliche Regulation den Markteintritt von nicht ausreichend sicheren KI-Systemen verbietet.

Aber auch Nationalstaaten haben hier widersprüchliche Anreize. KI könnte zu einem entscheidenden Vorteil im ökonomischen und geopolitischen Wettstreit werden. 2023 stellte die US-Regierung zwar 140 Millionen US-Dollar für die Entwicklung von sicherer KI bereit. Zeitgleich veranschlagte das Pentagon Ausgaben von 1,8 Milliarden US-Dollar für KI im Haushalt 2024. Auch hier gibt es also berechtigte Gründe anzunehmen, dass, wenn es um die Sicherung des nationalen Interesses geht, die relevanten Entscheidungsträger technologischen Vorsprung priorisieren werden. Es mag nur eine Anekdote sein, aber dass die dritte Ausgabe des „AI Safety Summit“, die im Februar 2025 in Paris stattfindet, zum „AI Action Summit“ umbenannt wurde und KI-Sicherheit dort eine geringere Rolle spielen wird, ist wenig beruhigend. Zugleich können demokratischen Staaten Anreize fehlen, Risiken durch KI ausreichend zu berücksichtigen. Deren größte Risiken werden mutmaßlich erst in Jahrzehnten zu Tage treten, was weit über die nächsten Wahlen hinausgeht. Schließlich kann es staatlichen Organen schlicht an der technischen Expertise fehlen, eine derart komplexe Technologie effektiv zu regulieren.

Philanthropisches Engagement braucht mehr Diversität

Ein Großteil (geschätzte 80%) der Mittel, die aus philanthropischen Quellen in KI-Sicherheit fließen, stammen von der amerikanischen Stiftung Open Philanthropy (von der auch Effektiv Spenden gefördert wird) und dem Survival and Flourishing Fund (SFF), der von Skype-Gründer Jaan Tallinn unterstützt wird. Dieses Engagement ist sehr wichtig und erfreulich. Um einige Beispiele zu nennen:

• Open Philanthropy hat OpenMinded unterstützt, ein Nonprofit, das Software baut, die die Prüfung von KI-Systemen auf Risiken erleichtert und nun von der bereits erwähnten AI Frontier Taskforce Großbritanniens genutzt wird.
• SFF und Open Philanthropy haben beide das Center for AI Safety gefördert, das für den oben genannten öffentlichen Brief zu KI verantwortlich zeichnet.
• Beide haben AI Impacts mitfinanziert, eine Organisation, die Umfragen unter KI-Experten macht, um herauszufinden, wie diese Community Risiken durch KI bewerten (mit teilweise besorgniserregenden Ergebnissen).

Wie unser Forschungspartner Founders Pledge in einem neuen Bericht darlegt, kann eine solche Konzentration auf einige wenige Stiftungen aber auch Risiken und Nachteile bergen.

• Auch wenn es nicht zu erwarten ist, dass die genannten Organisationen sich aus dem Themenfeld KI zurückziehen, ist das Thema zu wichtig, um hier nicht breiter aufgestellt zu sein.
• Die oben genannten Stiftungen haben einen starken Fokus auf die USA, zum einen aus historischen Gründen, zum anderen weil die führenden KI-Firmen dort beheimatet sind. Das heißt aber nicht, dass es keine Hebel außerhalb der USA gibt. So hatten Experten vehement für die Regulierung von sogenannten „foundational models“ – wie GPT-4, auf dem ChatGPT basiert – durch die gerade in Kraft getretene EU KI-Verordnung argumentiert und sich damit schlussendlich auch durchgesetzt.
• Wettbewerb belebt auch in der Philanthropie das Geschäft. Wenn einige wenige Stiftungen den Ton angeben, kann dies dazu führen, dass mögliche Lösungsansätze übersehen oder Annahmen nicht mehr hinterfragt werden. So hatten Open Philanthropy und SFF in der Vergangenheit vor allem technische Lösungen finanziert und lange Zeit regulatorische vernachlässigt (wobei beide begonnen haben, nun auch mehr in Letzteres zu investieren).

Founders Pledge bietet Orientierung

Aus diesen Gründen ist der neue Bericht von Founders Pledge sehr begrüßenswert. In diesem legen sie sehr detailliert die möglichen Risiken durch KI dar und entwickeln Grundprinzipien, anhand derer sich Philanthropen orientieren können, die auf der Suche nach vielversprechenden Organisationen sind. Zu einem der genannten Grundprinzipien gehört etwa, im Zweifelsfalle Interventionen zu unterstützen, die mehrere Bedrohungsszenarien simultan abdecken. Interventionen, die versuchen, Kooperation zwischen wichtigen Entscheidungsträger herbeizuführen, können das erreichen, da in vielen der Szenarien, in der KI katastrophale Folgen hat, wichtige Akteure sich nicht koordiniert haben – ein Wettrüsten um die beste KI, wie oben genannt, wäre ein solches Szenario. Eine Organisation, die Founders Pledge auf Basis ihres neuen Berichts daher selbst empfiehlt, ist FAR AI. Diese hat vor kurzem ein Symposium an einer Pekinger Universität organisiert, um namhafte chinesische und westliche KI-Forscher zusammenzubringen. Ein Resultat dessen war ein offener Brief, in dem sie rote Linien bei der KI-Entwicklung fordern.

Wer mehr erfahren möchte, kann dies bei uns hier tun. Founders Pledge hat in diesem Gastbeitrag ihren neuen Bericht für uns zusammengefasst.

Was kann ich tun?

Wer selbst dazu beitragen will, die Zukunft der KI sicher zu gestalten, kann seit November 2022 an unseren Spendenfonds: Zukunft bewahren spenden, dem ersten Spendenfonds in Deutschland, der sich dem Thema KI und anderen existentiellen Risiken widmet. Für Spenderinnen, die tiefer in das Thema eintauchen und von unserem Netzwerk an Experten profitieren wollen, stehen wir auch gerne für ein persönliches Gespräch zur Verfügung.

Über die Autorin

Anne Schulze

Gründerin und Geschäftsführerin

Termin vereinbaren

Ich bin eine der Gründerinnen und Geschäftsführerin von Effektiv Spenden. Wenn du Fragen oder Anregungen hast, kannst du mir gerne eine Email schreiben. Ich melde mich dann gleich bei dir zurück.