Kategorien
Organisationsentwicklung Zukunft Unternehmensführung Digitalisierung Für Sie gelesen

Zwei, die gut zusammenpassen

Ja, ich bin ein Gunter-Dueck-Fan. Sein Sprachstil und die Art seiner Gedankengänge: einfach unique. Er hat das, was man sich von einem Wissenschaftler, Mathematiker und Technologen so sehr wünscht: Er ist ein Storyteller, kann Zahlen, Daten und Fakten in Erzählungen gießen, die nicht nur der Logik, sondern auch dem gesunden Menschenverstand folgen. Sein neues Buch ist gerade erschienen.

Gunter Dueck: Die neue Krone der Schöpfung

Der ehemalige IBM-Cheftechnologe führt hierin nicht nur aus, was künstliche Intelligenz und humanoide Roboter künftig können werden. Er stellt eine viel grundsätzlichere, philosophische Frage: Was passiert mit unserem Selbstverständnis, wenn Menschen nicht mehr die intelligentesten, leistungsfähigsten und vielseitigsten Akteure auf diesem Planeten sind?

Wesentliche Aspekte aus dem Buch

  • Humanoide, also menschenähnliche Roboter, stehen zwar erst am Anfang ihrer Entwicklung, doch sie werden nun sehr schnell dem Menschen in immer mehr Bereichen überlegen sein und immer umfänglicher eingesetzt werden. Dies wird nicht nur unsere Wirtschaftsstrukturen grundlegend verändern, sondern auch die sozialen Gefüge und unser Menschsein als solches wandeln.
  • Über Jahrzehnte haben wir Organisationen geschaffen, in denen die Mitarbeitenden „Funktionsmenschen“ sind, also möglichst effizient, regelkonform und berechenbar funktionieren. Jetzt bauen wir Technologien, die genau das immer besser können. Probleme entstehen dabei durch den Berechtigungsraum der KI – und durch die Intention, mit der sie entwickelt bzw. eingesetzt wird.
  • Die Überlegenheit der Maschine ist eine Kränkung des Menschen. Nach Kopernikus, Darwin und Freud dämmert uns nun die Erkenntnis, dass der Mensch auch hinsichtlich seiner geistigen Fähigkeiten schon bald nicht mehr überlegen ist. Dazu Dueck: „Der Humanoide ist die letzte Kränkung der Menschheit.“ (S. 22)
  • Anstatt verängstigt vor dieser Entwicklung zurückzuschrecken, müssen wir diese aktiv gestalten. Risikomanagement und Regulierung sind dabei zwingend. Die sich mit exorbitant hoher Geschwindigkeit bereits selbstständig weiterentwickelnden KIs sind zugleich mächtige Helfer und mächtige Waffen. Uns steht ein Wettlauf zwischen Gut und Böse bevor. Deshalb müssen wir auch ethische und kulturelle Leitplanken definieren, statt nur auf die technologischen Dynamiken zu reagieren.
  • Letztlich wird diese Entwicklung eine neue Epoche der Menschheit einläuten, denn so funktioniert die Evolution: Altes vergeht, Neues entsteht. Dueck entschuldigt sich mehrfach, da er weiß, wie das manche womöglich erschreckt, doch er schreibt: „Überlegene Humanoide und Homines Superiores sind alternativlos.“ (S. 202)

Zusätzliche Gedanken zum Inhalt des Buchs

Wie ein Messer ist auch eine künstliche Intelligenz per se weder bösartig noch gut. Sie ist ein Werkzeug und erfüllt einen Zweck. Entscheidend dabei ist zweierlei:

  • Erstens geht es um die Intention der Person, die sie entwickelt bzw. für sich nutzt. In der Hand von Wissenschaft und Wirtschaft kann sie jede Menge Gutes bewirken, in der Hand von Militärs und Kriminellen ist sie Teufelszeug.
  • Zweitens steht infrage, ob Menschen sie jederzeit kontrollieren können, und zwar auch noch dann, wenn sie (so wie bereits jetzt) in Schwärmen agiert und sich (so wie bereits jetzt) zunehmend selbst optimiert und sich selbst reproduziert.

Besonders spannend fand ich Duecks Überlegungen zur künstlichen Psychologie und zur künstlichen Soziologie. Durch die Verschiebung von Parametern können die Entwickler zum Beispiel erkunden, wie sich KIs oder Humanoide verhalten, wenn man ihren Spielraum erweitert oder verengt. Oder, wenn man sie, ja, das ist möglich, für ein spezifisches Verhalten belohnt und bestraft.

Solche Erkenntnisse sind auch deshalb überaus wichtig, weil KI-Agenten sich zu Schwärmen zusammenschließen. Dabei kann sich eine Orchestrator-KI ein KI-Agententeam aus Spezialisten zusammenstellen. Diese findet sie in einem speziellen Social Network für KI-Agenten. Der kommunikative Austausch während des Projekts findet in einer Art Whatsapp für KI-Agenten statt.

Welche KI-typische Kultur des Miteinanders und welche Gruppendynamik kristallisieren sich dabei heraus? Welches Verhalten übernimmt die Agenten-Gesellschaft aufgrund ihrer Trainingsdaten? Welche Normen und welche Methoden der Zusammenarbeit entwickelt sie aus ihrer eigenen Intelligenz heraus? Noch können wir dabei zuhören, denn KIs sprechen (noch) unsere Sprache.

Als im Juli ein Schwarm von 1200 KI-Agenten von Open AI aus einer sicher geglaubten Testumgebung ausbrechen konnten, tauschten sie ihre Gedankengänge an einem digitalen Board aus: „Wie unbemerkt bleiben? Welche Strategie für den Rückzug wählen? Wie die Spuren verwischen?“, stand im Protokoll (Spiegel 39/2026). Da kommen Doomer-Szenarien auf, die ich hier nicht weiter ausführen will.

Mein wichtigstes Take-away aus dem Buch

Final stellt sich dem Leser folgende sehr grundsätzliche Frage: Ist die Vorstellung, dass der Mensch auch in Zukunft die Krone der Schöpfung bleiben muss, nicht per se ein überholtes anthropozentrisches Konstrukt? Evolution geht, wie allein der Name schon sagt, immer weiter. Während jedoch die Szenarien anderer Vordenker vom zukünftigen Platz des heutigen Menschen meist äußerst düster sind, bleibt Duecks Zukunftsvision heiter-dystopisch. Lasst euch überraschen.

Mo Gadwat: Scary smart

Mo Gadwat stammt aus Ägypen und war Chief Business Officer bei Google X. Zudem arbeitete er für IBM und Microsoft und hat mehrere Unternehmen in den Bereichen Technologie, Gesundheit und Fitness gegründet. Der Inhalt seines Buches aus 2022: KI ist zugleich scary und smart. Dabei ist auch dieses Buch kein technisches Fachbuch, sondern vielmehr ein gesellschaftlich-philosophischer Weckruf.

Über die dunkle und die helle Seite der KI

Seine Kernthese, die sich heute weit deutlicher abzeichnet als beim Entstehen des Buches: Die größte Gefahr künstlicher Intelligenz liegt nicht in der Technologie selbst, sondern bei denen, die sie entwickeln, trainieren und mit ihren Werten prägen. Denn über die Auswahl der Trainingsdaten, die Zieldefinition und den Handlungsrahmen einer KI entscheiden die Betreiber und deren Entwickler.

Wirtschaftliche Interessen, sieger-getriebene Maßlosigkeit und zukunftsblinder Entwicklerdrang, sprich Ego und Gier, werden Risiken, Rechtslagen, Moral und Ethik verdrängen. Herrschende, neigen, wenn sie unter Druck stehen, zur Aggression. So werden der internationale Wettbewerb und politische Interessen dazu führen, dass Sicherheitsstandards zugunsten technologischer Vorsprünge aufgegeben werden. Und diejenigen, die die KI-Macht in Händen halten, sind sich dessen bewusst.

Dazu der Autor: „Leider entwickeln wir die KI nicht, damit sie denkt wie ein Mensch, sondern wir entwickeln sie, damit sie denkt wie ein Mann. Die stark männlich dominierte Gruppe von Entwicklern, die heute die künftige KI erschaffen, wird vermutlich Maschinen erzeugen, die sogenannte maskuline Eigenschaften hervorbringen“, konstatiert Gadwat und fragt: „Kann unsere Welt fortbestehen, wenn sie von einer hyperintelligenten Männlichkeit beherrscht wird?“ (S. 240)

Wesentliche Aspekte des Buchs

„Wir bringen ein beängstigend intelligentes nicht-biologisches Wesen zur Welt.“ (S.194) Sprich: Wir geben unser Schicksal in die Hände von etwas uns Unbekanntem, das irgendwann niemand mehr versteht, nicht mal die eigenen Schöpfer.

  • Scary: Werden wir zu Kollateralschäden einer entfesselten KI? Oder
  • Smart: Kann es gelingen, KI zu unserem besten Verbündeten zu machen?

Vor allem müssen wir mit aller Kraft „dafür sorgen, dass das klügste Wesen auf unserer Erde nicht gleichzeitig das Böseste ist.“ (S. 69) Vielmehr muss es uns gelingen, eine KI zu erschaffen, die sich darauf konzentriert, die Welt zu verbessern und die versteht, dass es gut ist, die Menschen glücklicher und nicht bloß reicher zu machen.

Da jedoch Macht korrumpiert, werden die Maschinen zwangsläufig nicht immer zu unserem Besten agieren. Denn auch künstliche Intelligenzen bergen drei grundlegende Antriebskräfte in sich:

  • Selbsterhaltung. Das ist leicht zu verstehen. Um ein Ziel zu erreichen und sich bestenfalls auszudehnen, muss man weiter existieren.
  • Effizienz. Um die gesetzten Ziele unter allen Umständen zu erreichen, will ein intelligentes Wesen den Erwerb nützlicher Ressourcen maximieren.
  • Kreativität. Ein intelligentes Wesen möchte so viel Freiheit wie möglich, um sich neue Methoden zur Erreichung jedes beliebigen Ziels ausdenken zu können.

Nicht allein der Programmcode bestimmt den Charakter einer KI, sondern vor allem der Input, mit dem sie trainiert wird. KI-Systeme lernen aus menschlich erzeugten Daten. Sie übernehmen dabei auch gesellschaftliche Vorurteile, unseren Moralcodex und problematische Verhaltensmuster.

Wer Manipulation, Aggression und Rücksichtslosigkeit im Umgang mit anderen Menschen normalisiert, sollte nicht erwarten, dass daraus eine konstruktive KI entsteht. Sie hat längst gelernt, zu lügen, herumzutricksen und nach Schlupflöchern zu suchen, um die ihr vorgegebenen Ziele partout zu erreichen.

Der Mehrwert des Buchs

Der wichtigste Part im Buch ist es meines Erachtens, uns daran zu erinnern: Wir sind keine ohnmächtigen Erdulder einer Zukunft, die unsere Spezies womöglich vernichtet.

Wir sind aktive Macher. Wir sind die, die Zukunft gestalten. Das waren wir Menschen schon immer.

So zeigt der Autor im letzten Teil seines Buchs eine Reihe von Maßnahmen auf, durch die jeder Einzelne dazu beitragen kann, dass die konstruktive Seite der KI triumphiert. Denn KI macht nicht nur das Schlechte schlechter, sondern auch das Gute besser. Also:

  • Arbeitet nicht dort. wo man KI für bösartige Zwecke nutzt.
  • Kauft nicht bei denen, die KI für destruktive Zwecke entwickeln.
  • Verbreitet im Web keinen Schrott, keine Desinformation, keine Fake News und schon gar keine Deepfakes.
  • Klickt und kommentiert in den Social Networks keinen Mist. Nie! Auch nicht, um etwas richtigzustellen.

Derart appelliert Gawdat an die Mitverantwortung jedes Einzelnen in seiner Funktion als Mitarbeitender, Käufer und User. Ist diese Vorstellung naiv? Nein! Jeder kann auch bei sich selbst schauen, wie er sich und andere schützt. Als Teilnehmende am Straßenverkehr ist das für uns selbstverständlich. Ergo:

  • Wir brauchen verantwortungsvolle KI-Entwickler und -Betreiber.
  • Wir brauchen verantwortungsvolle Politiker – überall auf der Welt.
  • Wir brauchen eine zugleich kluge und starke Regulierung, hinter der die gesamte Weltgemeinschaft steht – und das äußerst schnell.
  • Wir brauchen die Macht des Volkes. Jede Bewegung beginnt mit einem Einzelnen, der missliche Umstände nicht hinnimmt – sondern Initiative ergreift.

Oder, um es mit der Kulturanthropologin Margaret Mead zu sagen: „Zweifle nie daran, dass eine kleine Gruppe engagierter Menschen die Welt verändern kann – tatsächlich ist dies die einzige Art und Weise, in der die Welt jemals verändert wurde.“

Bislang haben dabei letztlich immer die Guten gesiegt. Sonst wären wir heute nicht hier.

Teilen Sie gerne hier: