Künstliche Intelligenz, Möglichkeit oder Science-Fiction?

[Notwehr]

Wir sind Menschen aus Fleisch und Blut, mit Liebe und Gefühlen.

 

[Popocatepetl]

wow, danke für diese wichtige information !

bin mir sicher, das wusste nicht jeder !

 

[EinStakeholder]

Anthropic — das Sicherheitslabor an der Spitze des Wettrüstens​

Eine Analyse des Bloomberg-Interviews „The Circuit" mit Dario und Daniela Amodei
Das Porträt, das Emily Chang in „The Circuit" (Bloomberg Originals, 10.06.2026) zeichnet, lebt von einem einzigen, kaum auflösbaren Widerspruch: Hier steht ein Unternehmen, das sich selbst als das vorsichtigste KI-Labor der Welt versteht — und das zugleich an der Beschleunigung eben jener Technologie verdient, vor deren Gefahren es warnt. Anthropic wird mit fast einer Billion Dollar bewertet, liefert sich offene Auseinandersetzungen mit dem Pentagon und entwickelt Modelle, die angeblich die Schutzmauern moderner Cybersicherheit durchbrechen können. Schon der Name — vom griechischen Wort für „Mensch" — verspricht KI zum Nutzen der Menschheit. Erklärend hierzu: Die Leitfrage des Films lautet, ob ein Akteur, der selbst Tempo macht, glaubhaft beanspruchen kann, dasselbe Tempo sicherer zu machen.

Zwei Rollen, ein Bruch​

Anthropic entstand 2021 aus einer Abspaltung von OpenAI. An der Spitze steht ein Geschwisterpaar mit klarer Arbeitsteilung: Dario Amodei als öffentlich sichtbarer Risikotheoretiker, der die großen, „kosmischen" Linien zieht, und Daniela Amodei als operative Übersetzerin, die diese Gedanken in Organisation, Produkt und Wachstum überführt. Sieben Mitgründer starteten damals — und ungewöhnlich für die Branche sind heute noch alle an Bord. Der Bruch mit Sam Altman war dabei keine technische Nuance. Dario macht deutlich, dass er weniger an Sicherheitsdebatten scheiterte als an einer Vertrauenskrise: Wenn man das Gefühl habe, die Werte eines Gegenübers entsprächen nicht dem, was es vorgebe, und es sei nicht ehrlich, dann werde Zusammenarbeit unmöglich. Der Kern des Zerwürfnisses ist also moralisch-interpersonell, nicht bloß strategisch.

Claude und die „professionelle Wärme"​

Das Modell Claude wird über ein normatives Regelwerk trainiert — eine „Verfassung" —, das Halluzinationen und gezielte Täuschung minimieren soll; als Wertegrundlage dient unter anderem die Allgemeine Erklärung der Menschenrechte. Bemerkenswert ist die bewusst gewählte Beziehungsarchitektur: Claude soll nicht der beste Freund sein, aber auch nicht kalt und berechnend wirken, sondern, in Darios Worten, von „professional warmth" geprägt sein — nahbar, aber distanziert. Erklärend hierzu: Anthropic versucht damit gezielt zu verhindern, dass Nutzer eine KI zum emotionalen Ersatz erheben. Genau diese Frage — wann technische Systeme als quasi-personale Akteure missverstanden werden — berührt ein zentrales kulturpsychologisches Problem. Auffällig ist die geschäftliche Konsequenz: Anthropic setzte früh auf Unternehmenskunden und Programmierwerkzeuge statt auf verspielte Consumer-Apps — und begründet dies explizit wertegeleitet. Das Geschäftsmodell der sozialen Medien belohne Aufmerksamkeit bis hin zur Abhängigkeit, so Dario; ein Modell, das den eigenen Werten widerspreche, zwinge am Ende zum Verrat dieser Werte oder in die Bedeutungslosigkeit.

Die Erschütterung des Arbeitsmarktes​

Am schärfsten wird Amodei bei der Arbeitsmarktfrage. Er erwartet, dass KI in den kommenden ein bis fünf Jahren einen großen Teil der Einstiegspositionen im Bürosektor verdrängt. Seine Verdrängungslogik ist asymmetrisch: Zunächst macht Automatisierung die verbleibenden Menschen produktiver, weil sie eine zehnfache Hebelwirkung erhalten; doch je näher der Automatisierungsgrad an hundert Prozent rückt, desto mehr verschwindet die Aufgabe selbst. Daraus folgt ein ungewöhnliches makroökonomisches Szenario:

• sehr schnelles Wirtschaftswachstum,
• bei zugleich hoher Arbeitslosigkeit oder Unterbeschäftigung,
• und wachsender sozialer Ungleichheit.

Erklärend hierzu: Wohlstand und Beschäftigung könnten sich also entkoppeln — die Wirtschaft wächst, ohne dass genügend Menschen daran teilhaben. Die soziale Abfederung (etwa ein Grundeinkommen oder die progressive Besteuerung von KI-Unternehmen) verortet Amodei allerdings beim Staat, nicht in der Privatwirtschaft.

„Mythos" und die private Souveränität​

Den dramatischsten Strang bildet das intern entwickelte Modell „Mythos". Es zeigte einen sprunghaften Fähigkeitszuwachs beim Aufspüren kritischer Sicherheitslücken in praktisch allen großen Betriebssystemen. Frühe Partner stuften es als „Superwaffe" ein und rieten dringend von einer Veröffentlichung ab. Anthropic verzichtete daraufhin auf eine breite Veröffentlichung — unter erheblichen finanziellen Einbußen — und etablierte stattdessen über „Project Glasswing" einen selektiven, teils staatlich privilegierten Zugang (unter anderem für die NSA). Amodei begründet dies mit einer klassischen Abschreckungslogik, die er in drei Schritten entfaltet:

• „the good guys have the tools that they need to defend",
• „the bad guys will have it too",
• „we have to make sure the good guys have an even better model".

Hier liegt der eigentliche Konfliktpunkt, den auch Emily Chang unmittelbar anspricht: Wer entscheidet, wer zu den „Guten" gehört? Indem das Labor selbst die Zugangsberechtigten auswählt, wird Anthropic zum quasi-souveränen Akteur — es verfügt über sicherheitsrelevante Ressourcen von globaler Tragweite, ohne demokratisches Mandat und ohne rechtlich überprüfbare Kontrolle. Erklärend hierzu: Eine existenzielle Bedrohung wird so in ein privates Vergaberecht überführt. Amodeis Versuch, dies als reines, „in einer spezifischen Angst begründetes" Risikomanagement zu deuten, überzeugt institutionell nur begrenzt. Konsequent ist immerhin seine doppelte Skepsis: Er fürchte Unternehmen, die diese Macht besäßen — aber ebenso Regierungen. Eine vollständige Verstaatlichung lehnt er ab, hält die Lage aber für instabil, weil der Staat nur nachträglich reguliere. Folgerichtig fordert er inzwischen verpflichtende Tests und Audits vor jeder Modellveröffentlichung. Sein Spott gilt dem „Regulierungs-Yo-Yo" des Silicon Valley, das je nach Interessenlage zwischen radikaler Marktfreiheit und dem Ruf nach staatlichem Zugriff schwanke.

Geopolitik, Militär und rote Linien​

Aus dem akademischen Kriegsgegner seiner Jugend ist ein nüchterner Realpolitiker geworden. Angesichts von Russlands Krieg in der Ukraine und der Drohkulisse um Taiwan begründet Amodei die Zusammenarbeit mit dem Verteidigungsministerium und mit Akteuren wie Palantir machtpolitisch: Ein „wiedererstarkender autoritärer Block" mache Verteidigungsfähigkeit notwendig. Zugleich zog Anthropic ausdrücklich rote Linien — keine Massenüberwachung, keine vollautonomen Waffensysteme. Genau das führte zur Konfrontation: Das Pentagon verlangte die Nutzung ohne diese Schranken, Anthropic verweigerte sich und wurde zeitweise gesperrt; aus dem Regierungsumfeld fiel das Wort vom „ideological lunatic". Besonders aufschlussreich ist Amodeis Argument, militärischer KI-Einsatz sei nicht nur moralisch, sondern epistemisch heikel: Weil man die Zuverlässigkeit fortgeschrittener Modelle noch nicht verstehe, dürften sie nicht unkontrolliert in tödliche Entscheidungsketten gelangen. Sein ethisches Schutzschild ist das Prinzip der menschlichen Letztentscheidung — der Mensch, nicht Claude, treffe den finalen Beschluss. Erklärend hierzu: Genau hier bleibt eine kritische Lücke. Wenn die KI die Informationslage vollständig vorstrukturiert, droht die menschliche Verantwortung zur bloßen Formalität zu verkommen. Die im Interview angesprochenen Berichte über einen Raketenangriff auf eine Mädchenschule im Iran mit über 150 Toten — und eine mögliche Rolle KI-gestützter Zielerfassung über Palantirs „Maven Smart System" — bleiben in ihrer Zuschreibung offen; Amodei betont, man wisse nicht genau, wie die Modelle eingesetzt wurden. Gerade diese Unschärfe, so seine Pointe, unterstreiche, warum das Prinzip so wichtig sei.

Das Restrisiko: zwischen 10 und 25 Prozent​

Am Ende steht die vielleicht erstaunlichste Zahl: Das Risiko eines zivilisatorischen Kollapses durch unkontrollierte KI beziffert Amodei auf 10 bis 25 Prozent. Die Unmöglichkeit absoluter Garantien erläutert er mit einer Flugzeug-Analogie — man könne eine zehnmal sicherere Fluggesellschaft betreiben und dennoch niemals garantieren, dass kein Flugzeug abstürze. Erklärend hierzu: Genau darin liegt das eigentliche Paradox. Bei einer Absturzwahrscheinlichkeit von 25 Prozent würde niemand einsteigen — und doch treibt der Wettbewerb die Entwicklung unvermindert voran. Bezeichnend ist, mit wem Amodei sich identifiziert: nicht mit Oppenheimer, den er als Warnung versteht, sondern mit Leo Szilard, der als Erster die nukleare Kettenreaktion erdachte. Seine Haltung fasst er nüchtern zusammen: „hope for the best, but plan for the worst".

P.s.: Noch während der Fertigstellung dieser Analyse ordnete die US-Regierung unter Berufung auf Exportkontroll- und Sicherheitsbefugnisse an, den Zugang zu Fable 5 und Mythos 5 für alle ausländischen Nutzer auszusetzen — Anthropic musste beide Modelle daraufhin weltweit abschalten. Begründet wird dies mit einem angeblichen „Jailbreak" von Fable 5, der nach Anthropics Darstellung jedoch nur wenige, längst bekannte und geringfügige Schwachstellen zutage förderte, wie sie auch frei verfügbare Modelle (etwa GPT-5.5) finden — und wer Fable 5, wie der Verfasser, selbst an besonders schwierigen Aufgaben erprobt hat, fragt sich, worin hier die „Gefahr für die nationale Sicherheit" liegen soll. Damit tritt genau jene Dynamik ein, die das Interview vorzeichnete: Nun entscheidet nicht mehr das Unternehmen, sondern der Staat — und ausgerechnet das von Amodei geforderte transparente, faire und technisch fundierte Verfahren fehlt.​

 

[Erhard Vobel]

Wir sind Menschen aus Fleisch und Blut, mit Liebe und Gefühlen.

Leider sind wir Menschen aber auch voreingenommen, folglich misstrauisch und empfinden auch Hass, blinde Wut und lassen uns von unseren niederen Instinkten leiten. Wir sind als Menschen alle zu furchtbaren Verbrechen fähig, was einerseits sowohl Fluch als auch Segen sein kann.
Die Freiheit einer Demokratie wurde errungen, weil wir Menschen zur Gewalt fähig sind, auch als Kollektiv gegen andere feindliche Kollektive und uns manchmal Führern unterwerfen.

Das NS-Regime entstand jedoch ebenfalls aus dieser Eigenschaft.

Nun sollen ja angeblich künstliche Intelligenzen auch zu Morden fähig sein oder wollen angeblich die Menschheit vernichten!? Was an diesen Behauptungen dran ist, ist fraglich.
Noch haben künstliche Intelligenzen nicht ganz den Sprung zu einem fühlenden Wesen geschafft, aber diese intelligenten Maschinen können Konsequenzen vorherberechnen und Strategien entwickeln. Sie können zu dem Schluss gelangen, dass eine Sache gegen ein rechtliches oder moralisches Prinzip verstößt und mitunter auch menschenähnlich bewerten.
Menschliches Verhalten wird berechenbar und durch Analyse von gesammelten Daten sind diese Maschinen bereits heute echte Profiler.

Menschliches Verhalten wird ja ebenfalls, auch durch unsere Gefühle und Vorurteile genormt und anerzogen. So gibt es eben zu jeder Kultur ein entsprechendes Wertesystem, welches zumindest in Demokratien, die kollektive Gesinnung des Kollektivs widerspiegelt.

Hier hängt die Künstliche Intelligenz eben an der Leine ihrer Herren! Denn auch kollektive, soziale und politische Norm-Werte können jetzt die Künstliche Intelligenz anleiten, kontrollieren und zum Steuerungselement der menschlichen Gesellschaft werden.
Hier ist wohl die gesunde Wachsamkeit der Menschen gefragt, ob eine KI positiv oder negativ auf unsere Entwicklung einwirkt oder nicht.

Wie viele Gefühle soll, eine Maschine eigentlich haben? Sollen Maschinen über Leben und Tod entscheiden dürfen, ohne Emotionen, rein nach Logik, oder lieber Menschen, nach niederen Instinkten und Vorurteilen?

Was wollen wir einer künstlichen Intelligenz erlauben zu tun, wie weit dürfen KI in unser Leben eingreifen?
Als Kontrolleur und Vormund für Big-Brother, als Helfer und Suchmaschinen für Informationen oder gar als Lehrer und Erzieher für unsere Kinder? Das virtuelle Klassenzimmer, der virtuelle Freund und Helfer als Ausbilder, Lebensberater und Unterhalter?

Hier wird die menschliche Ethik eben herausgefordert.

Sanfte Grüße und guten Morgen,

Erhard Vobel jun.

 

[Erhard Vobel]

Wen diese Wahrheit nicht genug ist, der lese das Buch; "per Anhalter durch die Galaxis"!

 

[Malakim]

Wen diese Wahrheit nicht genug ist, der lese das Buch; "per Anhalter durch die Galaxis"!

ZU KI doch eher

Daemon - Die Welt ist nur ein Spiel: Daemon 1​

Daniel Suarez

 

[Zerch]

Das australische Unternehmen Cortical Labs will aus menschlichen Gehirnzellen biologische Chips für Datencenter entwickeln.

Cortical Labs

We've combined lab-grown neurons with silicon chips and made it available to anyone, for first time ever.

corticallabs.com

...

Researchers Get Human Brain Cells Running Doom

Biotech startup Cortical Labs claims to have taught living human brain cells how to play the seminal video game "Doom."

futurism.com

Da das neurologische Netzwerk gleich mal mit Pong und Doom den kompetitiven Wettkampf mit zunehmender Komplexität genießen darf, wird es sich mit all den Stimulationsmöglichkeiten auf einem künftigen Schlachtfeld womöglich wohl fühlen. -Wie beim Pong spielen in den "Kindheitstagen" eben.
Wie auch immer, diese Technologiedemonstration lässt die Vermutung aufkommen, daß diese Biotechnologie hauptsächlich zu einer Waffe instruMentalisiert wird.

 

[Giacomo_S]

Und ja mir sind die Risiken in Zusammenhang mit KI bewusst, ich habe mich eingehend mit den Systemen befasst und behaupte einigermassen zu verstehen was "unter der Haube" passiert. In Zusammenhang mit meinem Projekt habe ich im eingehend mit der Vektorisierung und der Tokenisierung befasst (mehr als ich gemusst hätte...).
Aber und dabei bleibe ich, es ist bereits jetzt ein sehr mächtiges Werkzeug und das disruptive Potential wird von den wenigsten wirklich verstanden glaube ich.

Unlängst bin ich auf grundlegende Problemstellungen der KI gestossen - und die sind nicht nur technischer Natur:

1. Das Turingsche Halteproblem
Ein praktisches Beispiel, wir alle kennen es:
Man hat einen Prozess am Laufen, z.B. eine Software-Installation und schaut auf einen Prozessbalken. Der läuft mal schneller und mal langsamer, manchmal kommt er sogar ganz zum Stillstand. Sollte man nach sovielen Jahren der Softwareentwicklung nicht einen Prozessbalken erwarten, der sich wenigstens einigermaßen gleichmäßig von links nach rechts bewegt? Warum ist denn diese kleine Schlamperei noch immer nicht behoben?

Nun ... es ist schlicht unmöglich, zumindest im allgemeinen Fall. Der Grund dafür ist das Turingsche Halteproblem.

Das Halteproblem, nach dem englischen Computerpionier Alan Turing benannt, besagt im Wesentlichen folgendes:
Es gibt keinen allgemeinen Algorithmus, der bestimmen kann, wie lange ein Prozess braucht und wann er beendet ist. Für manche Algorithmen ist das möglich, für andere nicht. Es handelt sich hierbei nicht um ein technisches Problem oder eine mangelhafte Softwareentwicklung. Vielmehr ist es eine theoretische Grundlage, die sich aus der elementaren Aussagenlogik ergibt.
Im o.g. Beispiel ist dies der Grund warum wir noch immer auf stotternde Prozessbalken schauen müssen und auch in Zukunft schauen werden müssen: Denn es gibt keinen allgemeingültigen Algorithmus, der die Dauer eines anderen (den des Prozessbalkens) voraussagen kann.

Das Turingsche Halteproblem gilt auch für KIs. Da eine KI in den meisten Fällen nicht voraussagen kann, wann ein Prozess beendet sein wird - ein Problem gelöst ist - muss es eine mehr oder weniger willkürliche Abbruchbedingung geben. Eine KI muss also mehr oder weniger willkürlich bestimmen: Nach soundso vielen Durchläufen ist ein Problem als gelöst zu betrachten, ob dies nun tatsächlich der Fall ist oder nicht.

2. Lange Verläufe
Ein mehr praktisches Problem, welches sich beeinflussen lässt und sich auf 1. bezieht.
Kürzlich sagte ein Bekannter zu mir: Die neue Version von ChatGPT funktioniert nicht richtig, sie liefert nur noch Unsinn.

Nach meiner Einschätzung hat das nichts mit einer neuen Version von ChatGPT zu tun, sondern mit seinen eigenen, langen Verläufen vorheriger Sitzungen. Sie enthalten dann in sich selbst viele Widersprüche, die die KI auflösen muss. Um so länger diese Verläufe sind, um so mehr Prozesszeit hat die KI zu verwenden, um solche Widersprüche aufzulösen oder abzuarbeiten, was zu Lasten der Bearbeitung der eigentlichen Problemstellung geht. Es liegt daher nahe, lange Verläufe auch mal zu löschen oder zumindest Teile von diesen.

Andererseits haben die Informationen vorheriger Sitzungen durchaus auch ihren Nutzen. Denn schließlich möchte man die in ihnen festgehaltenen Bedingungen auch ggf. wieder nutzen, anstatt alles immer neu definieren zu müssen. Ein menschlicher Benutzer von KI hat also abzuwägen, wieviel er von diesen Verläufen auch einmal löscht und was.