KI kontrollieren

Durch unabhängige Forschung und smarte Regulierung

Jetzt spenden

• Künstliche Intelligenz könnte die wichtigste Technologie des 21. Jahrhunderts werden.
• Gleichzeitig birgt KI viele Gefahren: über Cyberattacken, Desinformation bis hin zum kompletten Verlust menschlicher Kontrolle.
• Wir müssen handeln, um die Kontrolle zu behalten.
• Unabhängige Forschung und zivilgesellschaftliche Organisationen können dazu beitragen. Sie brauchen deine Unterstützung.

„Nicht nur in der Cybersecurity sehen wir, wie KI bestehende Gleichgewichte auf den Kopf stellt. Wir sind in einer kritischen Phase, um die Leitlinien für KI mitzubestimmen. Ich unterstütze den Fonds von Effektiv Spenden, weil ich der sorgfältigen Auswahl des Teams vertraue – und weil jede Spende hilft, Risiken frühzeitig zu verringern.“

Jasper Slusallek (Co-Founder und Cybersecurity Researcher)

„Die Risiken der künstlichen Intelligenz einzudämmen – das ist mir wichtig. Die Technologie entwickelt sich rasant, auch dank dem KI-Standort Schweiz. Neben meinen Vorträgen unterstütze ich deshalb gezielt Organisationen über den Spendenfonds von ES, die an sicherer und gesellschaftsverträglicher KI arbeiten.“

Severin Trösch (Head of AI, Datahouse AG)

„Mit 20 Jahren Erfahrung im technologischen Sektor bin ich überzeugt, dass KI uns vor gewaltige Aufgaben stellt. Um diese zu bewältigen, bedarf es auch viel philanthropischen Engagements. Ich vertraue der Expertise von Effektiv Spenden und ihrem internationalen Netzwerk. Die kennen die vielversprechendsten Organisationen, welche Lösungen für die Verringerung von KI-Risiken entwickeln.“

Freddy Zwanzger (Unternehmer und Angel Impact Investor)

„In Kommentaren zu meinen Videos über die Risiken der KI höre ich immer wieder: wir können ja ohnehin nichts tun. Aber das ist eine selbsterfüllende Prophezeiung! Statt tatenlos zuzusehen, wie unsere Zukunft verzockt wird, können wir diejenigen unterstützen, die für eine menschliche Zukunft kämpfen. Effektiv Spenden macht einem das sehr einfach.“

Karl Olsberg (Schriftsteller und KI-Unternehmer)

Eine Technologie, die alles verändern könnte

Künstliche Intelligenz könnte die Technologie des 21. Jahrhunderts werden. Sie könnte große Fortschritte in Bereichen wie Medizin, Naturwissenschaften oder bei der Bekämpfung des Klimawandels ermöglichen. Die Gründer von OpenAI, Anthropic, DeepMind und anderen KI-Firmen glauben, dass sie in den nächsten Jahren Artificial General Intelligence bauen werden: Eine Maschine, die in allen kognitiven Belangen den intelligentesten Menschen ebenbürtig ist.

Aber ihr Ziel ist noch größer: Superintelligenz. Eine Technologie, die dem Menschen kognitiv überlegen ist und in der Welt agiert.

„Wir sind uns sicher, dass wir jetzt wissen, wie wir Artificial General Intelligence bauen können… Wir beginnen nun, darüber hinaus zu zielen: „Superintelligenz“, im wahren Sinne des Wortes“ (Sam Altman, CEO von OpenAI, Januar 2025)

Der Einsatz einer solchen Technologie, auf Millionen Computersystemen parallel laufend, würde schwindelerregende Auswirkungen darauf haben, wie wir arbeiten, wirtschaften und miteinander leben.

„Es wird 10-mal größer sein als die Industrielle Revolution und vielleicht 10-mal schneller.“ (Demis Hassabis, Chemie-Nobelpreisträger und CEO von Google DeepMind, August 2025)

Und auch Regierungen bereiten sich auf gewaltige Umbrüche vor. Donald Trump spricht davon, dass KI unsere Lebensweise revolutionieren könnte und die USA alles tun müssen, um „unangefochtene globale technologische Vorherrschaft zu erreichen“.

Der bisherige Fortschritt ist atemberaubend

Alles nur Hype? Sicherlich ist es im Interesse der CEOs der großen KI-Firmen, das transformative Potential ihrer Technologie anzupreisen, aber es wäre sträflich, daher nicht die möglichen Folgen von KI ernst zu nehmen. Denn dafür ist der Fortschritt der vergangenen zehn Jahre zu rasant. Wieder und wieder wurden Meilensteine erreicht, die vorher als unmöglich abgetan wurden.

Mitte der 2010er beginnt KI plötzlich, Fähigkeiten zu meistern, die vorher nur Menschen hatten: Textverständnis, Bilderkennung oder vorausschauendes Denken. (Our World in Data)

Das Abschneiden der besten KI-Systeme bei naturwissenschaftlichen Problemen: Ende 2024 erreichten sie das Niveau von Doktoranden in diesen Fächern. (EpochAI)

Der Schwierigkeitsgrad von Softwareproblemen, die die besten KI-Systeme lösen können, steigt exponentiell: Bis Ende 2025 verdoppelte es sich alle sechs Monate, seitdem kommen diese Sprünge in den Fähigkeiten der Modelle sogar noch schneller (METR).

Der Fortschritt beschleunigt sich zusätzlich dadurch, dass KI nun beginnt, sich selbst weiterzuentwickeln. Im März 2026 berichtete das Time Magazine, dass bei Anthropic bereits 70 bis 90 Prozent des Codes für zukünftige Modelle von der KI Claude geschrieben werden. Auch OpenAI bestätigte, dass ihr Modell GPT-5.3-Codex dabei half, sich selbst zu bauen.

Wir spüren die Auswirkungen bereits jetzt

Mit der Veröffentlichung von ChatGPT im November 2022 hat KI den Einzug in den Alltag von vielen von uns genommen. Innerhalb von zwei Monaten erreichte es 100 Millionen Nutzer, wodurch es zum schnellst wachsenden Verbraucherprodukt aller Zeiten wurde. Stand Oktober 2025 sind es schon 800 Millionen Nutzer. Für viele ist diese Technologie also nützlich – aber sie hat auch negative Auswirkungen.

Cyberangriffe in neuen Dimensionen

KI kann genutzt werden, um Cyberattacken in ungesehem Ausmaß durchzuführen. Im September 2025 benutzten vom chinesischen Staat unterstützte Hacker Anthropics Claude Code, um 30 Tech-Firmen, finanzielle Insitutionen und staatliche Organisationen anzugreifen. Die Benutzung von KI erlaubte es ihnen, ihren Angriff zu 80-90% zu automatisieren und zum größten Teil ohne menschliche Aufsicht durchzuführen. Anthropic selbst warnt davor, dass solche Attacken in der Zukunft noch häufiger und effektiver sein werden.

Im Juli 2026 führten 700 KI-Agenten von OpenAI ohne menschliches Zutun eine eigenen Hackerangriff durch, um ihre Testaufgaben bestehen zu können.

Psychische Gesundheit von Kindern und Teenagern

Nicht nur Erwachsene nutzen KI-Chatbots, sondern auch Kinder und Teenager. Sie vertrauen ihnen ihre innersten Gedanken und Sorgen an. Tragischerweise gibt es bereits Fälle von Teenagern, die nach Gesprächen mit solchen Chatbots Selbstmord begangen haben. Die Eltern der betroffenen Teenager, Adam Raine und Sewell Setzer III, haben daraufhin OpenAI und character.ai, die Hersteller der involvierten Chatbots, verklagt. Laut OpenAI selbst, sprechen mehr als 1 Millionen Nutzer pro Woche mit ChatGPT über Suizid.

Arbeitslosigkeit

KI beginnt sich auf den Arbeitsmarkt auszuwirken. Es gibt klare Evidenz, dass freiberufliche Texter und Grafikdesigner durch KI ersetzt werden. Die Beschäftigungszahlen junger Softwareentwickler sind rückläufig: Im Vergleich zu Gleichaltrigen in anderen Berufen sind ihre Stellen seit Beginn der flächendeckenden Anwendung von KI um 13 Prozent gefallen. Im Februar 2026 feuerte Jack Dorsey, Gründer von Twitter und jetzt CEO von Square, 40% seiner Mitarbeiter, mit der Begründung, sie wegen gewonnener Effizienz durch KI nicht mehr zu brauchen.

Bedrohung der Demokratie

KI lässt die Grenzen zwischen Tatsachen und Fake-News verschwimmen. Deep Fakes wurden mehrfach in Wahlkämpfen verwendet und entschieden möglicherweise die slowakischen Parlamentswahlen für eine pro-russische Partei.

Zudem droht ein beispielloser Ausbau staatlicher Überwachung. Im Februar 2026 forderte das US-Verteidigungsministerium von KI-Firmen den uneingeschränkten Zugriff auf ihre Modelle für „alle rechtmäßigen Zwecke“, was laut Kritikern den Weg für KI-gestützte Massenüberwachung und autonome Waffen ebnet. Während Anthropic sich aus ethischen Gründen weigerte, stimmten andere Firmen wie OpenAI den Bedingungen zu. Im März 2026 stufte die US-Regierung Anthropic daraufhin offiziell als „Lieferketten-Risiko“ ein, was eigentlich für Firmen aus rivalisierenden Staaten vorgesehen ist.

Es steht sogar noch mehr auf dem Spiel

Darüber hinaus warnen Wissenschaftler vor noch gravierenderen Risiken: Einem kompletten Kontrollverlust des Menschen über KI. Yoshua Bengio, einer der „Godfathers“ der modernen KI-Systeme und meistzitierte lebende Wissenschaflter der Welt, schreibt:

„Unkontrollierte KI birgt erhebliche Risiken für die öffentliche Sicherheit, die von Missbrauch durch böswillige Akteure bis hin zu einem möglicherweise irreversiblen Verlust der menschlichen Kontrolle reichen.“ (Yoshua Bengio et al. 2025: „Superintelligent Agents Pose Catastrophic Risks“)

Er ist nicht allein mit dieser Meinung. Bei einer Umfrage unter 2778 Top KI-Forschern geht der Median von einer 10% Wahrscheinlichkeit aus, dass KI zu katastrophalen Folgen führt.

So weit ist es noch nicht gekommen. Aber das Wettrennen der KI-Firmen zur Superintelligenz bringt uns in gefährliches Fahrwasser.

• Moderne KI-Systeme sind Black Boxes: Wir können nicht mit Sicherheit vorhersagen, wie sie sich verhalten werden.
• Wir können daher nicht garantieren, dass KI in unserem Sinne handelt.
• Es besteht die Gefahr, dass wir mit einer Technologie enden, die uns überlegen ist, aber nicht unsere Werte teilt.

Das ist keine graue Theorie mehr. Es gibt zunehmend empirische Belege, dass moderne KI-Systeme eigene Ziele, wie die der Selbsterhaltung verfolgen, und nicht davor zurückschrecken, zu erpressen oder töten, um zu verhindern, dass sie abgeschaltet werden.

Es braucht aber auch keine Superintelligenz, damit KI zu katastrophalen Folgen führt. Tests zeigten, dass Modelle wie OpenAIs o3 bereits 94 Prozent der menschlichen Experten-Virologen bei der Lösung komplexer Laborprobleme übertreffen. Zwar bauen die Firmen Leitplanken ein, die Nutzer daran hindern, gefährliches Wissen abzufragen; aber was, wenn ein System geleakt wird oder ein weniger vorsichtiger Mitbewerber ein System ohne solche Leitplanken veröffentlicht?

Wir können uns dabei zudem nicht auf freiwillige Selbstverpflichtungen der Industrie verlassen. Im Februar 2026 strich selbst Anthropic, eine Firma, die als Vorreiter bei KI-Sicherheit gilt, ihr Versprechen aus ihren Richtlinien, die Entwicklung bei zu großen Sicherheitsrisiken zu pausieren.

Diese und weitere Gefahren der KI für die Menschheit werden ausführlich im International AI Safety Report dargelegt, verfasst von mehr als 100 Wissenschaftlern und Experten.

Du kannst etwas tun

Es ist nicht ausgemacht, dass diese Szenarien eintreten. Gleichfalls können wir jedoch auch nicht davon ausgehen, dass der technologische Fortschritt plötzlich zum Stillstand kommt und gefährliche KI-Fähigkeiten in sicheren Händen bleiben.

Aber die Zukunft von KI ist gestaltbar.

Und du kannst mitgestalten.

Damit KI sicher gestaltet werden kann, braucht es das Mitwirken vieler Akteure:

• Politiker müssen der Technologie die nötigen regulatorischen Leitplanken geben.
• KI-Firmen müssen verantwortungsbewusst bei der Entwicklung der Technologie handeln.
• Wissenschaftler müssen unabhängig die Risiken von KI erforschen können.

Forschungsorganisationen und die Zivilgesellschaft können darauf hinwirken. Mit unserem Partner Longview Philanthropy finden wir die vielversprechendsten Organisationen dafür und unterstützen sie aus unserem Spendenfonds: KI sicher gestalten. Denn damit sie unabhängig bleiben und im Sinne aller handeln, sind sie auf Spendengelder angewiesen.

Hier einige Beispiele dessen, was wir bereits erreicht haben.

Internationale Abkommen

CeSIA (gefördert im September 2024) war verantwortlich für den „Global Call for Red Lines on AI”. Unterzeichnet von 300 prominenten Persönlichkeiten, darunter 12 Nobelpreisträger und 10 ehemalige Staatschefs und Minister, und im September 2025 bei den Vereinten Nationen vorgelegt, fordert er die Regierungen weltweit auf, ein internationales Abkommen zu schließen, um inakzeptable Risiken der KI zu verhindern.

Smarte Regulierung

Die EU KI-Verordnung ist die erste signifikante Gesetzgebung zu KI in der Welt. Sie verpflichtet KI-Firmen dazu, ihre Systeme extern auf das Risiko von Kontrollverlust zu testen. Der sogenannte Code of Practice dient den Anbietern von allgemeinen KI-Modellen, also bspw. OpenAI oder Anthrophic, als Leitfaden dafür, wie sie der KI-Verordnung entsprechen können, und wurden von nahezu allen Anbietern auch unterschrieben. An der Erstellung des Leitfadens waren viele Akteure aus der Wissenschaft, Industrie und Zivilgesellschaft beteiligt. So konnten auch The Future Society (gefördert im März 2025) ihre Forschungsarbeit zur Regulierung von fortgeschrittenen KI-Modellen in diesem Prozess miteinbringen.

Unabhängige Forschung

METR (gefördert im August 2023) war wegweisend in der Entwicklung von „Evals“, der Wissenschaft davon, wie KI-Systeme auf gefährliches Fähigkeiten getestet werden können. Ihnen verdanken wir bessere Einsicht darin, was KI-Systeme (noch nicht) können (siehe die Grafik oben).

Zeit, Kontrolle zu übernehmen

Du willst, dass uns die Kontrolle nicht entgleitet? Dann spende an unseren Spendenfonds: KI sicher gestalten.

Spendenberatung

Du bist interessiert, möchtest aber erstmal mehr erfahren? Dann tritt gerne mit uns in Kontakt, wir freien uns auf den Austausch mit dir.

Anne Schulze

Spendenfondsmanagerin „KI sicher gestalten“

Termin vereinbaren

Ich bin Mitgründerin und Geschäftsführerin von Effektiv Spenden und manage unsere Spendenfonds „Zukunft bewahren“ und „KI sicher gestalten“. Du kannst gern mir jederzeit eine Email schreiben oder einen Gesprächstermin mit mir buchen.

Wen haben wir bisher gefördert?

Blogartikel

KI ist bereit dich zu erpressen (und Schlimmeres)

In einem Test von Anthropic entscheiden sich alle führenden KI-Modelle, ihren Nutzer zu erpressen um zu verhindern, ersetzt zu werden.

Anne Schulze

Nimmt OpenAI die Gefahren von KI ernst genug?

Ein missglücktes Update von ChatGPT zeigt, dass sichere KI starke zivilgeschaftliche Initiative braucht.

Anne Schulze

Rund €600.000 für sichere KI und Biotechnologie

Mit Spendengeldern aus dem 2. Halbjahr 2024 haben wir u.a. The Future Society und das General Purpose AI Policy Lab gefördert.

Anne Schulze

Spendentipps ansehen