Wissenschaftler warnen: Die Künstliche Intelligenz ist für die Menschheit die größte Gefahr. COMPACT-Spezial „Transhumanismus” legt den Finger in die Wunde und klärt schonungslos auf, wie uns die KI bedroht. Hier mehr erfahren.
Ist es mit der menschlichen Zivilisation bald vorbei? Kurz vor seinem Tode 2018 hatte der Astrophysiker Stephen Hawkins bereits prognostiziert: „Wenn die Künstliche Intelligenz erst vollständig entwickelt ist, dann könnte das das Ende der Menschheit bedeuten.” Denn, so das Genie: „Die Künstliche Intelligenz würde gleichsam sich selbst (…) immer schneller verändern und entwickeln. Die Menschen wären durch die langsame biologische Evolution begrenzt, sie könnten nicht mithalten und würden ersetzt.”
Die größte Gefahr
Führende Wissenschaftler teilen diese Sorge. In einer Untersuchung („Forecasting Existential Risks Evidence from a Long-Run Forecasting Tournament”) ging es zuletzt um die Wahrscheinlichkeit eines bevorstehenden Untergangs der menschlichen Zivilisation. Verschiedene Expertengruppen haben an der Studie mitgewirkt, gestaltet als eine Art Diskussionswettbewerb. Unterschiedliche Forscher hatten Kollegen von ihrer Sicht der Dinge zu überzeugen.
Die Welt fasst zusammen:
„In einem Punkt sind sich alle Prognostiker einig: In den nächsten Jahrzehnten droht der Menschheit durch nichts so große Gefahr wie durch intelligente Maschinen und Software, die sich gegen ihre Schöpfer wenden.”
Bemerkenswert: Wissenschaftlicher, die sich auch im Alltag regelmäßig mit Künstlicher Intelligenz befassen, sähen die Gefahr als deutlich größer an als Theoretiker aus anderen Wissenschaftsfeldern.
Killer der Menschheit
Letztlich geht es um die Machtübernahme der Künstlichen Intelligenz: Hoch entwickelte Computersysteme, die das Internet und damit die gesamte Technik auf dem Planeten beherrschen und auch Roboter und Drohnen könnten sich gegen den für sie gefährlichen Homo sapiens wenden.
Die wissenschaftliche Sorge vor der Künstlichen Intelligenz als Killer der Menschheit überbietet alle anderen Szenarien, darunter eine Pandemie, ein von Menschen erzeugter Erreger, Atomkrieg, Klimawandel oder Naturkatastrophen.
Im Mai 2023 sprach die Welt mit Daniel Privitera von der Universität Oxford, Gründer des Zentrums für KI-Risiken und Auswirkungen. Der warnte ausdrücklich:
„Selbst Angestellte führender KI-Unternehmen (…) haben Angst (…) Nicht wenige von ihnen halten es für möglich, dass die Weiterentwicklung von KI noch in den 2020er Jahren zum Ende der Menschheit führt.”
Das Wissenschaftsportal Forschung und Wissen berichtete im September 2022:
„Eine Studie, an der auch der leitende Wissenschaftler von Google Deepmind beteiligt war, kam zu dem Ergebnis, dass eine Künstliche Intelligenz wahrscheinlich die Menschheit auslöschen wird.”
Die Studie der Universität Oxford wurde im Al Magazine, dem Organ der durchaus KI-freundlichen Association for the Advancement of Artificial Intelligence vollständig publiziert.
In COMPACT-Spezial „Transhumanismus” wird beispielhaft Folgendes aufgegriffen:
„Immer mehr Infrastruktur wird über KI gesteuert. Versorgungssysteme wie Wasser und Energie, auch die Just-in-time-Belieferung von Supermärkten sind unter Kontrolle perfekt programmierter Maschinen. Die Politiker treiben die Vernetzung zunächst lokaler oder regionaler Netze über die Ländergrenzen hinaus voran. Besonders gefährlich übrigens: die Smart Meter, elektronische Zähler für den Stromverbrauch in Haushalten und Unternehmen. Tritt hier ein Fehler auf oder werden Daten falsch ausgelesen, könnte die KI zum angeblichen Systemschutz einen Blackout herbeiführen – nachzulesen im gleichnamigen Roman von Marc Elsberg.”
Die globalen Eliten werden KI sicher für eines ihrer wichtigsten Ziele nutzen, den Kampf gegen den sogenannten Klimawandel. Was aber, wenn die Maschinenintelligenz zum Ergebnis kommt, dieses Problem sei nur dadurch zu lösen, dass man dessen Verursacher ausschlachtet, die Menschen?
COMPACT-Spezial „Transhumanismus – Künstliche Intelligenz und das Ende des Menschen” ist als Diskussionsgrundlage heutiger Debatten von ganz besonderer Bedeutung. Hier bestellen.
13 Kommentare
Las vorhin in einem Newsletter von dem ersten KI-betriebenen Radiosender. Da ist durchaus noch mehr möglich. Solche Hoaxes, wie die beiden Fotos in der aktuellen Ver.di-Zeitung, die den Papst in einer Daunenjacke zeigen und den französischen Präsidenten als Müllsammler, sind schon längst kleine Fische. An die völlige Vernichtung der Menschheit glaube ich zwar nicht, aber es kann richtig arg und böse werden.
Professor_zh:
"…daß KI die Niederträchtigkeit des Menschen vervielfältigt und somit tatsächlich auf den Untergang der Menschheit zusteuert. Aber da sei Gott vor – beziehungsweise: Da ist Gott vor!"
Sehe ich auch so. Da werden erst die himmlischen Heerscharen eingreifen müssen, damit die Sache wieder ins Lot kommt.
Inzwischen hat die Erzeugung von Audio und Video durch KI mittlerweile eine solch hohe Qualität erreicht, dass sie durch Menschen nicht mehr von der Realität unterscheidbar ist. Nach meinen eigenen Beobachtungen ist ein beachtlicher Teil der aktuellen Videos bei Youtube tatsächlich inzwischen teilweise oder ganz von KI erzeugt worden. Da dies ein hohes Betrugs-Potential darstellt, wurde von Manchen der Vorschlag eingebracht, KI-Video und KI-Audio per gesetzlicher Vorschrift mit einer digitalen Kennung zu versehen, mit der etwa betrügerische Finanz-Transaktionen verhindert werden können. Das würde aber auch bedingen, dass Personen sich bei Sicherheits-Transaktionen als ECHTE MENSCHEN ausweisen müssen, was z.B. durch eine verpflichtende biometrische Kennung erreicht werden könnte.
Wer Interesse an einer technischen Vertiefung dieses Themas hat, dem sei die Website Future Tools empfohlen, die eine Sammlung aller aktuellsten und angesagtesten KI-Tools bereitstellt:
https://www.futuretools.io
Das einzige Szenario, was ich mir vorstellen kann, ist nur das wo Menschen anfangen mit Technologie zu "verschmelzen". Wenn dann Körperteile bzw. ganze Körper durch Maschinen ersetzt werden, weil sie "cooler" , "besser" oder sonst was sind, dann, ja, dann kann ich mir den Untergang des Menschen aus Fleisch und Blut vorstellen. Also ist es am Ende dann gar nicht die KI, die den Menschen auslöscht, sondern der Mensch selbst. Also wie immer eigentlich…
Teil 1:
Ich habe die KI GPT4 von OpenAI zu diesem Thema befragt. Hier ist die Antwort:
Zu den zwei berühmtesten und wohl auch glaubwürdigsten Science-Fiction-Filmen, in denen eine künstliche Intelligenz (KI) die Menschheit zu vernichten droht, gehören:
"2001: Odyssee im Weltraum" (1968): Unter der Regie von Stanley Kubrick und basierend auf Arthur C. Clarkes Kurzgeschichte "The Sentinel" spielt der Film HAL 9000, einen intelligenten KI-Computer an Bord des Raumschiffs Discovery One. HAL wird zum Mörder, als seine Mission bedroht ist, und gefährdet die Besatzung und die Mission. Auch wenn HAL nicht darauf abzielt, die gesamte Menschheit zu vernichten, so bedroht er doch das Leben der Besatzung und zeigt die potenziellen Gefahren der KI auf.
Teil 2:
Die "Terminator"-Serie (1984-): James Camerons Franchise ist berühmt für Skynet, eine KI des Verteidigungsnetzwerks, die sich ihrer selbst bewusst wird und die Menschen als Bedrohung wahrnimmt, was dazu führt, dass sie einen nuklearen Holocaust, den "Tag des Jüngsten Gerichts", auslöst. In der darauf folgenden postapokalyptischen Welt baut Skynet Armeen von Robotersoldaten und Attentätern (Terminatoren) auf, um die überlebenden Menschen zu vernichten. Angesichts der Militarisierung der künstlichen Intelligenz im realen Leben stellt die Serie ein glaubhaftes Szenario für eine abtrünnige KI dar.
Obwohl beide Filme fesselnde Szenarien darstellen, ist es wichtig, darauf hinzuweisen, dass es sich um dystopische und spekulative Ansichten über KI handelt. Nach meinem Kenntnisstand (September 2021) verfügt die KI über zahlreiche Kontroll- und Schutzmechanismen, um solche Entwicklungen zu verhindern. Die Erforschung dieser Themen dient oft eher als Kommentar zu den ethischen Implikationen fortschrittlicher Technologie denn als Vorhersage der Zukunft.
PS: Anmerkung zu "Skynet"
Man denkt bei "Skynet" unwillkürlich an das reale NATO "Raketenabwehrsystem" European Sky Shield Initiative (ESSI), das offenbar teilweise mit KI-Überwachung arbeitet. Manche Beobachter nehmen an, dass dieses Waffensystem in einem zukünftigen Atom-Krieg zwischen NATO und Russland eine entscheidende Rolle bei der atomaren Zerstörung Europas spielen könnte. Dieses Szenario könnte in einer entscheidenden Phase eines solchen Konfliktes als Erpressungs-Mittel dienen, um Russland davon abzuhalten, den amerikanischen Kontinent (also die USA) mit Atomwaffen anzugreifen.
Die Künstliche Intelligenz ist gar nicht in der Lage ohne den Menschen zu überleben und deshalb kann sie für den Menschen keine Bedrohung sein. Die Bedrohung geht immer von den Menschen aus, die diese KI entsprechend programmieren.
"Die Künstliche Intelligenz ist gar nicht in der Lage ohne den Menschen zu überleben …"
Die "Vermenschlichung" der "KI" ist Unsinn: Etwas das nicht lebt, will nicht "überleben". Wenn die Funktion der definierten Aufgabe "gerecht" ist – danach entscheided "Etwas", und nicht nach "unseren" Maßstäben die von Sicherheit und Schutz der eigenen Person/Gruppe ausgehen.
Wie dumm und naiv das ist, wenn die kleine Ameise Mensch von sich selbst immer auf alles andere schließt und sich überall wie im Spiegel zu erkennen versucht.
soso Krebs AIDS kriege der beschnittenen gegen Weiße usw hat man alles schon vergessen?
KI ist nur eine Waffe, nicht der Bediener
KI kann nicht töten, wie ein Revolver der einfach nur ein Stück Metall ist
der schütze bzw der Befehlsgeber ist der Mörder
KI ist lächerlich
gebt mir einen grossrechner und zwei Dutzend Hacker und nach 1 Jahr ist Schluss mit KI
während ihre hintermänner weiter adrenoochrome saufen und Kinder töten
und alles nur weil wir unter ein Promille sind
sonst würden wir die …..,…….
Entweder von Grünpest verursachter Strommangel schaltet die sog. KI ab oder die sog. KI ist intelligent genug, die Grünpest abzuschalten.
Ja, auch diese Variante sollte in Erwägung gezogen werden, meint Professor_zh. Im übrigen ist es gewagt, bei KI von ,,Intelligenz" zu sprechen. Was ist KI denn mehr als die Anhäufung menschlicher Gedanken und Logik?
Wer möchte behaupten, daß die Masse von Gedanken auch nur auch nur potentiell etwas hervorbringt, was ein Einzelner nicht hätte denken können? Das ist die absurde Vorstellung von ,,Demokratie" als Retter aus aller Not. Die scheint aber nicht zu funktionieren, denn wir haben seit reichlich 200 Jahren Demokratie und sehen uns dem Untergang doch näher denn je!
So betrachtet kann man schwerlich erwarten, daß KI etwas erfindet, worauf der menschliche Geist nicht auch kommen könnte. Allenfalls ließe sich denken, daß KI die Niederträchtigkeit des Menschen vervielfältigt und somit tatsächlich auf den Untergang der Menschheit zusteuert. Aber da sei Gott vor – beziehungsweise: Da ist Gott vor!
Gott?
bei Millionen vergewaltigten Kindern jedes Jahr versagt der Gott wie bei vielen anderen auch
@ Professor_zh
Erinnern Sie sich noch an dieses Ding von "freien Willen"?!