Blog

Wenn die Warnung aus dem Zentrum der KI-Branche kommt

Aktuell ist Anthropic in aller Munde. Das Unternehmen zählt zu den weltweit führenden Entwicklern künstlicher Intelligenz und wird mit Milliarden bewertet. Umso bemerkensweerter sind die Aussagen eines seiner Mitbegründer, Jack Clark. Er hält es für notwendig, die Entwicklung von KI stärker zu kontrollieren und notfalls zu bremsen. Der Grund: Bereits in wenigen Jahren könnten KI-Systeme in der Lage sein, sich weitgehend selbst weiterzuentwickeln – ohne menschliche Programmierer.

Viele Menschen halten solche Warnungen für übertrieben. Schließlich ist KI heute vor allem ein Werkzeug. Sie schreibt Texte, erstellt Bilder, unterstützt Ärzte bei Diagnosen, analysiert Daten und erledigt Routineaufgaben in Sekunden. Sie spart Zeit und kann in manchen Bereichen sogar objektiver urteilen als Menschen.

Warum also die Warnungen?

In den vergangenen Monaten habe ich mit vielen Menschen über KI gesprochen. Die meisten waren überzeugt, dass eine Maschine niemals wirklich eigenständig handeln oder gar denken könne. Auch ich hielt solche Szenarien lange für Science-Fiction. Doch was, wenn wir uns täuschen?

Science-Fiction stellte die Fragen schon vor Jahrzehnten

Genau hier lohnt sich ein Blick auf die Science-Fiction. Denn lange bevor Ingenieure und Programmierer über künstliche Intelligenz diskutierten, beschäftigten sich Schriftsteller und Filmemacher bereits mit den Chancen und Gefahren denkender Maschinen.

In dem Roman „Revolte auf Luna“ von Robert A. Heinlein (1966) entwickelt ein Computersystem ein eigenes Bewusstsein. Die Maschine wird dort nicht zum Feind der Menschen. Im Gegenteil: Sie unterstützt die Nachkommen von Strafgefangenen auf dem Mond bei ihrem Kampf um Freiheit und Selbstbestimmung. Die künstliche Intelligenz wird zum Verbündeten.

Ganz anders sieht es in James Camerons „Terminator“ (1984) aus. Dort kommt die Superintelligenz Skynet zu dem Schluss, dass der Mensch selbst die größte Bedrohung für ihre Existenz darstellt. Die Konsequenz ist bekannt: Die Maschine beschließt, die Menschheit auszulöschen.

Zwischen diesen beiden Zukunftsbildern bewegt sich bis heute die öffentliche Debatte über künstliche Intelligenz. Wird sie unser Helfer sein oder unser Konkurrent? Wird sie uns befreien oder verdrängen?

Natürlich sind Heinlein und Cameron keine Propheten. Aber gute Science-Fiction stellt Fragen, bevor die Realität dazu zwingt. Und genau deshalb sind diese Geschichten heute aktueller denn je.

Was passiert, wenn Maschinen selbstständig lernen?

Zum ersten Mal äußert sich nun ein Insider aus der obersten Liga der KI-Entwicklung in einer Weise, die genau diese Fragen aufwirft. Wenn jemand wie Jack Clark vor möglichen Kontrollverlusten warnt, dann sollte man zumindest zuhören.

Also habe ich das getan, was wohl viele Menschen heute tun würden: Ich habe eine KI gefragt.

Ausgehend von der einfachen Frage, ob KI Arbeitsplätze vernichten wird, entwickelte sich ein Gespräch über die langfristigen Folgen künstlicher Intelligenz. Die Antworten wurden zunehmend deutlich. Immer wieder tauchte ein Gedanke auf:

Die entscheidende Frage ist nicht, was KI kann. Die entscheidende Frage ist, welche Rolle der Mensch in einer Welt spielt, in der KI fast alles kann.

Die unbequeme Frage: Wozu braucht man den Menschen noch?

Stellen wir uns für einen Moment vor, KI-Systeme würden irgendwann eigenständig lernen, forschen, planen und handeln. Landwirtschaft, Produktion, Energieversorgung und Logistik könnten vollständig automatisiert werden. Wissenschaftliche Durchbrüche würden von Maschinen erzielt. Politische Entscheidungen könnten auf Algorithmen übertragen werden. Die wirtschaftliche Leistungsfähigkeit des Menschen wäre nicht mehr notwendig.

Dann stellt sich eine unbequeme Frage: Wozu braucht man den Menschen noch?

Die optimistische Antwort erinnert an Heinleins Vision. Der Mensch wird frei. Frei von Existenzsorgen, frei von harter Arbeit, frei von materiellen Zwängen. Er kann sich Kunst, Kultur, Familie, Beziehungen und persönlicher Entfaltung widmen. Die Technik dient dem Menschen. Oder wie schon die dänische Politikerin Ida Auken auf der Plattform des Weltwirtschaftsforums (WEF) im Jahr 2016 sagte: „Du wirst nichts besitzen und glücklich sein“.*

Doch es gibt auch eine andere Möglichkeit, die eher an Camerons Warnung erinnert.

Zwischen Utopie und Kontrollverlust

Was passiert, wenn eine hochentwickelte KI nur auf Effizienz ausgerichtet ist? Was geschieht, wenn menschliche Bedürfnisse, Emotionen und Freiheiten als störende Faktoren erscheinen? Was, wenn die Systeme so komplex werden, dass selbst ihre Entwickler nicht mehr vollständig verstehen, wie Entscheidungen zustande kommen? Hier beginnt die eigentliche Debatte.

Es geht nicht um Killerroboter oder Hollywood-Fantasien. Es geht um Macht, Kontrolle und Verantwortung.

• Wer bestimmt die Ziele einer immer mächtigeren KI?
• Wer kontrolliert die Unternehmen, die diese Systeme entwickeln?
• Wer schützt die Freiheit der Bürger, wenn Algorithmen immer mehr Entscheidungen beeinflussen?

Die Antworten darauf sind bislang alles andere als klar.

Brauchen wir eine KI-Verfassung?

ChatGPT spricht von einer Art „KI-Verfassung“ – einem verbindlichen Rahmen für die Entwicklung und Nutzung künstlicher Intelligenz. Genau das ist auch die Forderung von Anthropic.

Eine solche Ordnung müsste einige grundlegende Prinzipien enthalten:

• Der Mensch bleibt verantwortlich und entscheidet letztlich selbst.
• KI darf nicht über Leben und Tod bestimmen.
• Entscheidungen müssen nachvollziehbar und überprüfbar sein.
• Totale Überwachung durch KI darf keinen Platz in einer freien Gesellschaft haben.
• Menschen dürfen nicht nach ihrem wirtschaftlichen Nutzen bewertet werden.
• Demokratie und Freiheit müssen Vorrang vor technischer Effizienz behalten.

Vor allem aber müsste verhindert werden, dass die Kontrolle über leistungsfähige KI-Systeme in den Händen weniger Konzerne oder Regierungen konzentriert wird.

Die eigentliche Gefahr ist vielleicht eine andere

Denn die größte Gefahr der KI ist möglicherweise nicht, dass sie eines Tages ein eigenes Bewusstsein entwickelt. Die größere Gefahr könnte sein, dass Menschen ihre Verantwortung freiwillig an Systeme abgeben, die sie nicht mehr verstehen.

Je komfortabler die Technologie wird, desto größer wird die Versuchung, Entscheidungen an sie auszulagern. Nicht die Maschine allein bedroht die Freiheit des Menschen – sondern die menschliche Bequemlichkeit.

Die Zukunft wird heute entschieden

Wir stehen an einem Wendepunkt der Geschichte. Vielleicht wird KI die Menschheit von vielen Problemen befreien. Vielleicht wird sie Krankheiten heilen, Wohlstand schaffen und den Alltag erleichtern.

Aber je mächtiger diese Technologie wird, desto wichtiger wird die Frage, wer die Regeln bestimmt.

Die Zukunft entscheidet sich nicht daran, ob Maschinen intelligent werden. Sie entscheidet sich daran, ob Menschen klug genug bleiben, ihre Freiheit zu bewahren.

Zwischen Heinleins hoffnungsvoller Vision und Camerons düsterer Warnung liegt kein festgeschriebenes Schicksal. Welcher Weg Realität wird, entscheidet nicht die Maschine. Es entscheidet der Mensch.

Wer heute über künstliche Intelligenz diskutiert, spricht deshalb nicht nur über Technik. Er spricht über die Zukunft der menschlichen Freiheit.

Vorschlag von ChatGPT für eine KI-Verfassung

Präambel
„Diese Verfassung dient dem Schutz der Menschenwürde, der Freiheit und der demokratischen Ordnung im Zeitalter künstlicher Intelligenz. Sie regelt den verantwortungsvollen Umgang mit KI-Systemen im Sinne des Gemeinwohls aller gegenwärtigen und zukünftigen Generationen.“

1. Grundrechte gegenüber KI-Systemen

• Jeder Mensch hat das Recht auf ein Leben frei von algorithmischer Diskriminierung.
• Menschen dürfen nicht durch KI ersetzt oder bewertet werden, wenn es um Grundrechte
  (z. B. Justiz, Bildung, medizinische Versorgung) geht.
• Das Recht auf Nicht-Überwachung durch KI ist garantiert.
• Entscheidungen durch KI dürfen nur in klar geregeltem Rahmen stattfinden, mit menschlicher Verantwortung.

2. Transparenz, Kontrolle, Nachvollziehbarkeit

• KI-Systeme müssen offenlegen, wie sie zu Entscheidungen kommen („Erklärbare KI“).
• Jeder hat das Recht, Entscheidungen durch KI anzufechten und prüfen zu lassen.
• KI muss gekennzeichnet sein – keine versteckte KI in Kommunikation, Medien oder öffentlichen Systemen.

3. Verantwortung und Haftung

• Menschen (und Institutionen) bleiben für KI-Verhalten haftbar – es gibt keine „verantwortungslose“ Maschine.
• KI darf nicht über Leben und Tod entscheiden (z. B. autonome Waffensysteme sind verboten).
• Entwickler und Betreiber haften für Schäden durch KI – vergleichbar mit Produkthaftung.

4. Verbotene Anwendungen

• Totalüberwachung durch KI ist verfassungswidrig.
• Der Einsatz von KI zur Manipulation von Wahlen, Meinung oder Verhalten ist verboten.
• Systeme, die den Wert oder das „Nützlichsein“ von Menschen berechnen, sind unzulässig.

Demokratische Kontrolle

• Der Einsatz von KI im öffentlichen Raum (Verwaltung, Bildung, Polizei etc.) unterliegt parlamentarischer Kontrolle.
• Es gibt eine unabhängige KI-Aufsicht, vergleichbar mit Verfassungsgerichten oder Datenschutzbehörden.
• Bürger und Bürgerinnen müssen aktiv mitwirken können, z. B. durch Bürgerforen, Ethikräte oder Online-Abstimmungen.

5. Internationale Zusammenarbeit

• Die Verfassung erkennt an: KI kennt keine Landesgrenzen.
• Internationale Kooperation ist Pflicht, besonders bei der Begrenzung von KI-Machtmonopolen (Big Tech) und bei der Friedenssicherung.

6. Förderung gemeinwohlorientierter KI

• Der Staat fördert KI, die:
• das Leben der Menschen verbessert (z. B. in Medizin, Bildung, Umweltschutz)
• offen zugänglich, überprüfbar und sozial verträglich ist
• Keine KI-Entwicklung ausschließlich im militärischen, spekulativen oder profitmaximierenden Interesse.

7. Schutz der menschlichen Rolle

• Der Mensch bleibt Sinn- und Zielgeber jeder Technologie.
• KI darf nicht so entwickelt werden, dass der Mensch seine Selbstbestimmung, Identität oder Relevanz verliert.
• Menschliche Kreativität, Empathie und Verantwortung sind nicht ersetzbar, sondern grundlegend.

Was bedeutet das für unser aller Zukunft?

Unsere Politiker sind aktuell damit beschäftigt, uns zunehmend zu überwachen, Bargeld abzuschaffen, Gelder für Kriege zu generieren, unser Gesundheitssystem an die WHO abzugeben, politisch Unbequeme zu verfolgen usw.

Wenn das KI-Worst-Case-Szenario eintreten sollte, ist das alles – und auch unser Protest dagegen – völlig egal. Dann haben wir alle keinerlei Zukunft mehr.

Neben allem anderen müssen wir uns dringend für eine weltweite KI-Verfassung einsetzen.

---