Unser Spenden-Fonds: Zukunft bewahren in H1/2023

Fonds-Mittel aus H1/23 insgesamt: ~128.000 EUR

Wofür werden die Mittel verwendet? Das Evaluierungsprojekt des Alignment Research Center (ARC Evals) befasst sich mit der Frage, ob “hochmoderne KI-Systeme katastrophale Risiken für die Zivilisation darstellen könnten“. Die Organisation ist noch jung und will nun nach ersten Erfolgen weiter wachsen. Dabei setzt sich ARC Evals vor allem mit folgenden Aspekten auseinander:

1. Bevor ein neues KI-System veröffentlicht wird und auf den Markt kommt, soll bewertet werden, ob es zu potenziell katastrophalen Aktivitäten fähig ist.
2. Falls dies der Fall ist, sollten starke Sicherheitsstandards gelten, anhand derer Entwickler sicherstellen, dass das System solche Aktivitäten nicht durchführen wird.

ARC Evals arbeitet schwerpunktmäßig am ersten Schritt dieses Ansatzes, also der Evaluierung modernster KI-Modelle. So wurden beispielsweise bereits Partnerschaften mit den KI-Pionieren OpenAI und Anthropic geschlossen, um GPT-4 und Claude vor ihrer Freigabe auf bestimmte gefährliche Fähigkeiten zu prüfen. 

Dabei geht es ARC Evals insbesondere um die Fähigkeit der KI-Modelle zur autonomen Replikation, also um die Frage, ob eine KI eigenständig auf einem Cloud-Server überleben könnte und in der Lage ist, Kopien von sich selbst zu erstellen, die sich einer möglichen Kontrolle entziehen könnten. 

Nach der Einschätzung von ARC Evals scheinen selbst die fähigsten öffentlichen KI-Modelle bisher nicht dazu in der Lage zu sein. Die Protokolle, um solche Tests durchzuführen, sind allerdings noch nicht hinreichend robust. Daher arbeitet ARC Evals daran, die Forschung und Entwicklung dazu weiter voranzutreiben, um die Erkenntnisse dann mit den Entwicklern modernster KI-Modell zu teilen. 

ARC Evals hat derzeit noch einen erheblichen Spielraum bzw. Bedarf für weitere Finanzmittel, die zur Unterstützung ihrer Wachstumspläne in den kommenden 18 Monaten benötigt werden. Longview Philanthropy empfiehlt die Förderung von ARC Evals, weil das Team einen überzeugenden Ansatz zur Verbesserung von KI-Governance verfolgt und bereits vielversprechende erste Fortschritte erzielt hat. Auf Basis dieser Empfehlung unterstützt u.a. auch der Longtermism Fund Arc Evals mit einer Förderung. Unsere Fördermittel decken dabei in erster Linie einen Teil der Personalkosten, die mit einem Anteil von derzeit rund 80% den größten Kostenblock des ARC Evals-Projekts ausmachen.

Global Shield

Fonds-Mittel aus H1/23 insgesamt: 50.000 USD

Wofür werden die Mittel eingesetzt? Global Shield ist eine neu gegründete, gemeinnützige Initiative, die sich für politische Maßnahmen zur Verringerung globaler Katastrophenrisiken einsetzt und zu einer verstärkten Aufklärung und politischer Forschung über die Wahrscheinlichkeit, die möglichen Auswirkungen und die Lösungen für globale Katastrophenrisiken beiträgt.

Das Feld an Organisationen, die sich bisher für politische Maßnahmen zur Verringerung globaler Katastrophenrisiken einsetzen, ist sehr begrenzt. Die wenigen bestehenden Organisationen konzentrieren sich auf bestimmte Länder und Risiken. Global Shield will daher eine globale Plattform aufbauen, die Standorte auf Länderebene operativ wie inhaltlich dabei unterstützt, direkte politische Lobbyarbeit zur Verringerung globaler Katastrophenrisiken zu leisten. Aus Sicht der Gründer bietet solch ein Modell die Möglichkeit, die Bemühungen schneller in einzelnen Ländern zu skalieren und gleichzeitig vielversprechender und wirksamer vor Ort zu agieren. 

Dabei baut Global Shield auf der Expertise und der bisherigen Arbeit seiner Gründer auf. Der Mitgründer und Global Shield Executive Director Jared Brown war maßgeblich an der Verabschiedung des U.S. Global Catastrophic Risk Management Act of 2022 beteiligt, was als Blaupause für weitere Global Shield-Initiativen dienen soll. Ein weiterer Mitgründer, Rumtin Sepasspour, hat sich bereits intensiv mit politischen Vorschlägen zur Reduzierung von Katastrophenrisiken auseinandergesetzt und eine umfangreiche Policy-Datenbank aufgebaut, die als Grundlage für die Arbeit von Global Shield zur Entwicklung von Politikrichtlinien und Gesetzesmaßnahmen dient. Der dritte Mitgründer, Ariel Conn, hat internationale gemeinnützige Organisationen beraten und direkt mit Regierungsvertretern in der Ausarbeitung nationaler und internationaler Strategien und Richtlinien zur Bekämpfung globaler Risiken zusammengearbeitet.

Der Founders Pledge Global Catastrophic Risk Fund sieht in Global Shield einen vielversprechenden Ansatz, der vom Fonds unterstützt wird, und hat uns die Förderung ebenfalls empfohlen.