Unser Spendenfonds: Zukunft bewahren in H1/2024

In Deutschland und der Schweiz haben wir im ersten Halbjahr 2024 insgesamt €195.000 für unseren Spendenfonds „Zukunft bewahren“ eingenommen. Der Fonds widmet sich der Reduzierung existentieller Risiken für die Menschheit, bspw. solche durch Pandemien oder Atomkrieg. Die Fondsgelder für das erste Halbjahr 2024 sind in Gänze an CeSIA gegangen, ein französischer Think Tank, dessen Mission es ist, dass Künstliche Intelligenz sicher entwickelt wird. Die Empfehlung hierfür kam von unserem Partner Longview Philanthropy. 

2024 ist bereits ein bewegtes Jahr für das Thema sichere KI gewesen. Kaliforniens Governor Gavin Newson hat Anfang Oktober, auf Druck von Konzernen wie Meta, Google und OpenAI, ein Gesetz blockiert, dass solche Konzerne dazu verpflichtet hätte, einen sogenannten „Kill Switch“ in ihren KI-Systemen zu implementieren, um diese im Notfall abschalten zu können. Auf der anderen Seite des Atlantik hingegen ist Anfang August die EU KI-Verordnung in Kraft getreten, welche u.a. Foundational Models wie OpenAIs GPT oder Metas Llama reguliert und deren Hersteller verpflichtet, diese auf systemische Risiken zu testen.

CeSIA

CeSIA (Centre pour la Sécurité de l’IA, franz. „Zentrum für die Sicherheit Künstlicher Intelligenz“) setzt sich für eine Entwicklung von KI ein, die zugleich sicher und zum Wohl der Gesellschaft ist. Mit Sitz in Paris arbeitet CeSIA an diesem Ziel, indem es die französische Öffentlichkeit zu diesem Thema aufklärt. Frankreich spielt eine wichtige Rolle, da es einen großen Einfluss in Brüssel hat und Mistral beheimatet, die Firma mit dem vermutlich fortgeschrittensten Large Language Model in der EU.

CeSIA setzt in seiner Arbeit auf drei Hebel. Erstens betreibt es eigene technische Forschung und entwickelt BELLS, eine Plattform, welche die Zuverlässigkeit von Überwachungssystemen von KI-Systemen testen soll. Zweitens hilft es beim Aufbau des Forschungsökosystems im Bereich sichere KI. So bietet es Kurse an französischen Universitäten an und hat ein Lehrbuch zum Thema veröffentlicht. Drittens bringt es wichtige Akteure aus Industrie und Politik zusammen, z.B. durch die Organisation von runden Tischen.

Charbel-Raphaël Ségerie, der Geschäftsführer von CeSIA, dankt den Spenderinnen und Spendern von Effektiv Spenden:

Wir sind Effektiv Spenden und seinen Spendern unglaublich dankbar für ihre großzügige Unterstützung. Es gibt so viel zu tun in Frankreich, wenn es um die Sicherheit von KI geht, und Ihre Hilfe ermöglicht es uns, wichtige Teammitglieder einzustellen, die für das Vorantreiben unserer Mission unerlässlich sind. Vielen Dank, Ihre Unterstützung macht wirklich einen Unterschied!

Charbel-Raphaël Ségerie (Geschäftsführer, CeSIA)

Weitere Neuigkeiten

Mit den Fondsgeldern aus dem ersten Halbjahr 2023 hatten wir METR mit €128.000 gefördert. METR baut Software, um KI-Systeme auf gefährliches Verhalten hin zu überprüfen. So haben sie frühzeitigen Zugriff auf OpenAIs neuen Modelle GPT-4-preview und GPT-4-o1-mini bekommen und diese auf die Fähigkeit hin überprüft, eigene Forschung zur Weiterentwicklung von KI zu betreiben. Dies ist daher relevant, da KI-Systeme, die sich selbst verbessern können, dadurch so mächtig werden könnten, dass sie unserer Kontrolle entgleiten.

Die Arbeit von METR wurde nun von TIME Magazine anerkannt, das Beth Barnes, die Gründerin von METR, zu einer der 100 einflussreichsten Persönlichkeiten in KI zählt.

Über die Autorin

Anne Schulze

Gründerin und Geschäftsführerin

Termin vereinbaren

Ich bin eine der Gründerinnen und Geschäftsführerin von Effektiv Spenden. Wenn du Fragen oder Anregungen hast, kannst du mir gerne eine Email schreiben. Ich melde mich dann gleich bei dir zurück.