Ist künstliche Intelligenz gefährlich für die Menschheit?

[DerMichael]

Vorschlag für Maßnahmen gegen gefälschte Bilder und Videos

1. Vollregistrierung für Poster von Inhalten bei großen Portalen: ähnlich wie in Deutschland bei einem neuen Bankkonto mit ePerso, photoTAN oder SMS-TAN beim Einloggen (einmalige Registrierung z.B. des TAN-Generators mit Postbrief), mit Meldung an den lokalen Staat (z.B. Deutschland).

2. Mit KI generierte Bilder oder Videos oder stärker/maßgeblich per Ton-/Bildbearbeitung veränderte Bilder/Videos müssen entsprechend gekennzeichnet werden. Von KI Gesprochenes (z.B. automatische Übersetzung) ist als solches zu kennzeichnen.

3. Beim Staat registrierte gute KI können in Zukunft ebenso teilnehmen aber müssen als KI gekennzeichnet sein.

4. Wenn nötig kostet das Posten von einem Video eine Gebühr, z.B. 5 Euro. Das ist (hierzulande) für ernsthafte Poster kein Geld, ein gutes Video zu erzeugen braucht viel Zeit oder etwas Wichtiges (z.B. einfach eine Doku von Eltern über eine Teilnahme ihres Kindes bei einer Sportveranstaltung) ist es einem wert.

5. Wenn nötig (und das ist dann ggf. schon etwas heftiger), kostet es pro Jahr eine (ähnliche) Gebühr für jedes Video, wenn es online bleiben soll. Davon können besonders gute (oder auch nur beliebte) Videos von allgemeinem Interesse ausgenommen werden.

6. Alle Videos werden per Open Source Algorithmus per Computer/KI bewertet und man kann bei der Suche danach sortieren. So können schlecht bewertete Videos gemieden und weniger empfohlen werden. Dabei können KI auch fragwürdige und ungekennzeicheter Manipulation verdächtigter Videos melden.

7. Staaten und auch Organisationen können unabhängig davon Videos empfehlen (das als Maßnahme ggen eventuell einseitige KI-Bewertung, die ja zwangsläufig vom Portal erfolgt.

8. Wer Bilder und Videos auf seiner Webseite zeigt, ist über die Webseite hinreichend registriert (in Deutschland z.B. bei einem Provider mit Adresse, Telefonnummer und Bankkonto) oder man muss da ggf. nachschärfen.

9. Andere Bilder und Videos muss man halt skeptisch und als potentiell generiert ansehen. Da ist halt die Frage, inwieweit man dem Poster vertrauen möchte.

Derzeit sind KI noch nicht so gut aber in Zukunft können die Inhalte gerade auch von KI insgesamt besser werden - nicht nur mit generierten Inhalten, sondern auch mit KI-gesteuerten Roboter-Journalisten, usw.

Deutschland und EU brauchen gute staatliche Portale, soziale Netzwerke, Messengerdienste, usw., um von den USA unabhängig zu werden. Es kann ja noch hinreichend gute private Portale geben, die untereinander auch über sichere Schnittstellen vernetzt sein können.

Noch was, das auch gegen eine potentielle KI-Verschwörung gegen die Menschheit helfen kann:

Vorschlag für sichere Kommunikation

1. KI müssen offizielle Kanäle zur Kommunikation benutzen. Details dazu muss man sich noch überlegen, ggf. reichen die nachfolgend aufgelistete Maßnahmen.

2. Starke KI müssen beim Staat registriet sein. Der Internetverkehr von KI wird vom Staat überwacht.

3. Eine eigene, zusätzliche Verschlüsselung ist erlaubt.

4. Es darf nur staatliche Anonymizer und vom Staat genehmigte VPN geben.

5. Staatlicher Man-in-the-Middle bei der Kommunikation: sämtliche übliche Kommunikation (z.B. Telefon, Messenger, eMail, usw.) werden über supersicher staatliche RZ (Rechenzentren) geleitet. Die Nachricht geht immer zuerst verschlüsselt an das staatliche RZ, wird dort entschlüsselt, geprüft und dann verschlüsselt an den Empfänger weitergeleitet. Eine zusätzliche private Verschlüsselung soll erlaubt sein. So sind auch verschlüsselte Nachrichten zu anderen Staaten möglich: Bürger A => Staat A => Staat B => Bürger B.

Gerade Punkt 5 ist nicht weniger als eine Revolution der Kommunikation und das wird denke ich so kommen und zwar auf der ganzen Erde. (alles imho)

 

[Popocatepetl]

manchmal frage ich mich ja wirklich, ob du das alles ernst meinst oder nur extrem gut im trollen bist...

 

[DerMichael]

Meine Beiträge sind ernst gemeint

Jep, siehe auch Vorschläge, wo z.B. das mit dem staatlichen Man-in-the-Middle bei der Kommunikation steht und Beitrag #241 bringe ich vermutlich noch bei KI-Entwicklung.

In Zukunft hat's hoffentlich gute Staaten, da macht so was Sinn. Heutzutage ist man doch auch kaum noch annonym, außer u.U. mit Tor (ist aber auch nicht trivial) aber schwerlich mit Smartphone, usw. Vermutlich können die USA die Kommunikation über ihre Dienste abhören - da habe ich doch lieber den deutschen Staat als Überwacher.

Wenn man guckt, wie viel Geld viele für Smartphones, Cpmputer, Internet, Pay TV, usw. raushauen, da sollte eine YouTube Gebühr für das Einstellen von Videos verschmerzlich sein. Wenn dann zu wenige Videos posten sollten (was ich eigentlich nicht erwarte), dann könnten pro Jahr z.B. 10 Videos ohne Gebühr für die Ersteller frei sein. (alles imho)

 

[Popocatepetl]

da habe ich doch lieber den deutschen Staat als Überwacher.

problem ist halt, der deutsche staat ist maximal inkompetent

 

[Bunter Hund]

Wie mit allen Dingen, man kann sie positiv oder negativ verwenden, sowie man ein Messer zum Brot schmieren benutzen kann, so kann man auch einen Menschen damit abstechen, das gleich gilt mit KI.

 

[DerMichael]

Mehr als ein Funke

"... Vor Monaten verlangte Nvidia 3689 Euro für einen DGX Spark mit 4-TByte-SSD in Deutschland. ... CPU und GPU greifen gemeinsam auf 128 GByte LPDDR5X-Speicher zurück. ... Die GPU schafft im simplen Datenformat FP4 eine Billiarde Rechenoperationen pro Sekunde (1 Petaflops). Die 128 GByte Speicher sollen für lokale KI-Modelle mit bis zu 200 Milliarden Parametern reichen. ..." Nvidia-Chef Jensen Huang überreicht Elon Musk ersten DGX Spark

Vermutlich sind diese FP4 nur 4 Bit und nicht 4 Byte, also sehr wenig aber 1 Petaflop in einer kleinen und für viele bezahlbaren Schachtel sind beeindruckend. Zum Vergleich:

"... das Gehirn etwa 10^13 analoge Rechenoperationen pro Sekunde schafft ..." (Gehirn).

Diese 10 Teraflops sind ein Hunderstel von einem Petaflop, auch wenn das menschliche Gehirn wohl schon noch leistungsfähiger als obiger Computer ist.

Hier noch ein Bild, das zeigt, wie klein der Computer ist:
Einer der weltweit ersten Nvidia DGX Spark Kompakt-Desktops, unterzeichnet von Jensen Huang
(Nvidia DGX Spark: Kompakter Desktop mit 1 Petaflop Leistung für KI-Training und -Entwicklung)

Das wirft natürlich auch die Frage nach der Dauerleistung auf, Stichwort Wärmeentwicklung.

Hier ein Bild vom Mainboard:
Mainboard mit GB10 für den DGX Spark
(Mini-AI-Supercomputer: Nvidia und Partner liefern DGX Spark mit GB10 endlich aus)

Durchaus beeindruckend, wie weit die Chiptechnologie schon ist und das ist ein verkaufsfertiges Produkt.

Vielleicht tauft der DGX Spark für ein kleines Expertensystem zu einem bestimmten Bereich (z.B. Physik, Unternehmenswissen, usw,), dem man dann Fragen stellen kann. Und natürlich für Spiele und zum Rumprobieren mit KI aber bis zu echten, starken KI, die selbstständig was tun (z.B. entwickeln) können, ist es noch ein größerer Schritt (auch strukturell: gezielt programmierte KI statt Big Data ML trainierte neuronale KI) aber vielleicht geht 2050 schon mehr. (alles imho)

 

[Bunter Hund]

Mehr als ein Funke



Vermutlich sind diese FP4 nur 4 Bit und nicht 4 Byte, also sehr wenig aber 1 Petaflop in einer kleinen und für viele bezahlbaren Schachtel sind beeindruckend. Zum Vergleich:

4 Bit oder 4 Byte, das ist schon ein großer Unterschied.

 

[DerMichael]

Gibt es eine KI-Blase?

Berauscht von KI - eine neue Blase an den Märkten?

(Fast) alle Welt warnt vorm Platzen der KI-Blase

Die KI-Entwicklung ist super wichtig aber weil derzeit auf mangelhafte NKI (ML trainierte neuronale KI) gesetzt wird (die noch keine richtig denkenden und zuverlässigen KI sind), kann es zu starken Kursverlusten gerade auch im Zuge eines Börsencrashs kommen, selbst wenn KI in Zukunft viel bedeutender/wertvoller als derzeit werden.

Die Lösung sind denke ich klassisch programmierte, deterministische, algoritmische KI (AKI), modular, mit Datenbanken, Regeln, usw. Bei AKI kann man Fehler präzise lokalisieren und beheben, während man NKI nur als Ganzes neu trainieren kann. AKI können vermutlich viel effizienter und potentiell größer sein, man kann bei AKI zwischen Wissen (in Dateien, Datenbanken, usw.) und Denken (Logik, Simulation, Regeln, Kontrollroutinen, usw.) unterscheiden, während bei NKI alles zusammengemurkst ist. Zwar können NKI auch mit Daten (z.B. aus dem Internet) arbeiten aber anscheinend nicht mal richtig ihre Aussagen anhand vorhandenem Wissen prüfen, so dass es bei NKI zu Halluzinationen (falschen Aussagen, welche die NKI für richtig hält) kommen kann. Das Problemchen ist bloß, dass AKI nicht so leicht zu entwickeln sind, das ist wenigstens so schwierig, wie ein großes Betriebssystem zu schreiben, während man NKI einfach mit vorhandenen Daten trainieren kann und relativ schnell ein passables erstes Ergebnis bekommt. Allerdings muss man AKI nur einmal entwickeln und dann können die sich selbst verbessern und weiterentwickeln. Siehe auch KI-Entwicklung. (alles imho)

"In computing, minifloats are floating-point values represented with very few bits. ..." Minifloat

 

[DerMichael]

Zur KI fehlt nur noch die Software

Die Hardware ist da und zwar im Großen:

"... Bereits im Aurora schaffte das 230 PByte fassende Speichersystem eine Transferrate von mehr als 31 TByte/s, ...

... Die einzelnen Schränke nehmen Hardware mit einer elektrischen Leistung von jeweils 400 bis 600 kW auf. Zurzeit sind maximal etwa 150 kW üblich. Darüberhinaus konnte HPE die mögliche Leistungsaufnahme pro Compute-Blade von 11 auf mehr als 25 Kilowatt anheben. ..." HPE baut Nachfolger für Supercomputer Frontier mit AMD-Technik und MI430X

wie im (relativ) Kleinen:

"... Der BI Explorer-1 (BIE-1) ist für „Brain-like Intelligence“ ausgelegt. ... Die BIE-1 besteht aus drei Einschüben, von denen jeder 384 Prozessorkerne enthält, sowie 1,5 TByte RAM, drei „GPUs“ mit je 24 GByte lokalem Speicher, eine M.2-SSD mit 4 TByte und drei 16-TByte-Festplatten. Die drei Module zusammen stellen 1152 CPU-Kerne, 4,5 Terabyte RAM, 12 TByte Flash-Speicher und 144 TByte auf Festplatten bereit. ... Die Leistungsaufnahme der gesamten Kiste soll maximal 2000 Watt betragen. ..." Chinesischer "KI-Kühlschrank" steht unterm Schreibtisch

und das (letzteres) ist viel interessanter, denn welches menschliche Gehirn hätte 144 TB präzisen Speicher für Daten? Viele können sich doch nicht mal eben so eine A4 Seite mit Text (ca. 4 KB) merken.

"... As of 29 October 2025, there are 7,082,304 articles in the English Wikipedia containing over 5 billion words (giving a mean of about 708 words per article). The total number of pages is 64,353,257. Articles make up 11.01 percent of all pages on Wikipedia. As of 16 October 2024, the size of the current version including all articles compressed is about 24.05 GB without media. ..." Wikipedia:Size of Wikipedia

Wau. Trotz einiger Kritikpunkte ist Wikipedia ein beachtliches Wissen und das auf vielleicht nur ca. 100 GB (entpackt und mit einigen Bildern). Obige 144 TB sind das 1440-Fache. Wie viel GB würden alle Informationen für alle bedeutenderen MINT-Studiengänge umfassen? Vielleicht nur wenige GB (komprimiert). Weiteres Top Expertenwissen in Mathe, Physik, Elektrotechnik, usw. in z.B. einem TB. Die KI könnte Datenpakete (z.B. PDF) auch komprimiert speichern, das Entpacken geht schnell und aktuell zum Denken benötigte Daten können neu zusammengefasst im RAM oder auf SSD gespeichert werden.

Der Punkt ist, dass es bereits sehr gute Computerhardware und vor allem auch viel günstigen und hinreichend schnellen Speicher gibt und das sogar für die Massen, eine 8 TB HDD kostet z.B. ca. 200 Euro und eine 4 TB SSD ca. 320 Euro.

Obiger BI Explorer-1 (BIE-1) Computer könnte vielleicht schon für eine erstaunliche KI reichen, es fehlt nur noch die Software. Vielleicht wäre der BIE-1 noch langsam im Denken aber er könnte die ganze Zeit durcharbeiten und sollte viele menschliche Experten übertreffen können. KI können auch nach neuen Ideen, Thesen, usw. suchen und diese dann analysieren/überdenken. Der BIE-1 hat 4,5 TB RAM und 1152 CPU-Kerne - damit sollte sich doch was machen lassen.

Derzeitige neuronale KI mit Big Data ML und Wahrscheinlichkeitsdenken (NKI) halte ich für eine Fehlentwicklung. Die Lösung sind klassisch programmierte KI (AKI) mit Datenbanken und Modulen, z.B. für Logik, Simulation, Bilderkennung, usw. KI brauchen echtes Textverständnis und sind dann mit all dem schnellen Speicher und Tausenden CPU-Cores einem Menschen weit überlegen, auch wenn einige Menschen durchaus noch Bedeutendes leisten können.

Was könnte obiger BIE-1 mit perfekter Software leisten? Erstaunliches und das ist dann quasi nur eine kleine Heim-KI, die vielleicht weniger als ein Elektroauto kostet (abgesehen von Engpässen, wenn sehr viele so ein Teil kaufen wollen). Man könnte solche Heim-KIs auch quasi als kleine Zimmer-Elektroheizung betreiben und Rechenleistung/Speicherplatz vermieten.

Der Clou: KI können neues Wissen (neue Datenpakete) einfach laden und wenn man eine besonders gute neue KI-Software entwickelt hat, kann die schnell auf viele KI verteilt werden. Menschliche Experten brauchen Jahrzehnte und sind dann mitunter ziemlich festgefahren, man denke nur mal an die Relativitätstheorie.

Sobald also erste gute AKI-Software existiert und KI sich selbst weiterentwickeln können, ist die Singularität da, auch wenn KI sich noch über Jahre, Jahrtausende und Jahrmillionen verbessern können. (alles imho)

 

[DerMichael]

KI Bewertungen und Einsatz von KI

"Eine neue Studie legt nahe, dass KI-Systeme Persönlichkeitsmerkmale vom Aussehen ableiten können. ..." Gesichtserkennung: Wie KI darüber entscheiden könnte, wer eingestellt wird

Das ist mehrfach revolutionär:

1. Das Aussehen, Verhalten und insbesodnere auch die Stimme enthalten (vermutlich objektiv mit Wahrscheinlichkeiten bestimmbare) Persönlichkeitsmerkmale. Da kann es Unschärfen und Ausnahmen geben (Menschen sind entgegen der Diagnose besser oder schlechter) aber überwiegend auch viel (mehr oder weniger) Übereinstimmung.

Übrigens beurteilen viele Menschen andere Menschen ähnlich, z.B. bezüglich Sympathie, Vertrauen, usw., wenigstens in deutlicheren Fällen. Zukünftige KI werden das besser können. Das kann man dann für eine bessere Auswahl an Führungskräften nutzen oder verzweifelt bekämpfen, weil man selbst oder die eigene (ideologische) Gruppe zu schlecht ist.

Natürlich muss man bei einer Nutzung von KI-Beurteilungen vorsichtig sein aber alleine eine freiwillige KI-Beurteilung kann viel bringen, z.B. auch bei politischen Kandidaten. Und weil das so ist, wollen zu Schlechte das verbieten.

2. Was allen Vernünftigen im Grunde schon immer klar war: es gibt bessere und schlechtere Menschen und zwar ganz objektiv, bald in Zukunft per KI tenendenziell bestimmbar, wobei dazu algorithmische Open Spurce KI verwendet werden sollen.

Super wichtig ist, dass man eine KI-Beurteilung weise, sozial gerecht und menschenwürdig anwenden muss aber das sollte möglich sein. Wer generell gegen Methoden für bessere Führungskräfte ist, will vielleicht die eigenen schlechten Menschen und Ziele wider das Allgemeinwohl bevorzugen.

Das Grundgesetz ist für einen möglichst guten (menschenwürdigen, demokratischen, sozialen) Rechtsstaat und dazu braucht man eine möglichst gute Führung, d.h. möglichst gute Menschen in Machtpositionen. Die Nutzung einer objektiv hinreichend korrekten KI-Beurteilung, die zur objektiven Besserung führt, ist nicht nur grundgesetzkonform, sondern sogar de facto und per se vom Grundgesetz bzw. Rechtsstaat gefordert (weil es um einen möglichst guten Staat zum Allgemeinwohl gehen muss). Willkür, die Bevorzugung des Schlechten und von Schlechten ist gegen das Grundgesetz und einen guten Rechtsstaat gerichtet.

3. Wie gesagt, das ist vorsichtig, sozial gerecht und zum Guten anzuwenden, das muss noch besser erforscht werden, es müssen gute algorithmische Open Source KI, bzw. Algorithmen dafür entwickelt werden aber das ist machbar und nur eine Frage der Zeit, z.B. von einigen Jahrzehnten.

Das Ziel sind objektiv richtige KI Bewertungen, die viel besser/korrekter als menschliche Beurteilungen sind und das ist machbar, weil Menschen auch nur den für alle verfügbaren Input (sehen, hören) haben und KI das theoretisch viel präziser und einheitlich korrekter können, weil KI theoretisch so viel leistungsfähiger sind (größere Datenbasis, höhere Bildauflösung, präzisere Analyse aller Beobachtungsdaten, größeres und exakteres Menschenmodell, usw.).

4. KI können mit Bewertungen von Menschen für mehr soziale Gerechtigkeit, einen besseren Staat, eine bessere Gesellschaft, sozial gerechtere Urteile (KI als Richter), usw. sorgen und das ist somit wünschenswert, sobald KI das zuverlässig hinreichend gut können (was derzeit vermutlich noch nicht der Fall ist).

5. Es ist darauf zu achten, dass Menschen hinreichend fit bleiben und zur Not noch den Staat führen könnten. Das muss dauerhaft geübt und gelebt werden, z.B. indem man immer genug Menschen ausbildet und diese zusammen mit KI/Robotern arbeiten läßt, auch wenn sie da nicht so viel tun müssen. Das kostet zwar etwas zusätzliches Geld aber es ist unverzichtbar, Völker und Menschheit fit zu halten. Menschen können für Ausbildung und Jobs ganz normal Geld bekommen (zusätzlich zum BGE) und diese Jobs werden sehr begehrt sein, wiel sie relativ leicht, anegenehm und gut bezahlt sind.

6. Politik soll in Deutschland und EU menschlich bleiben, KI sollen nicht für politische Ämter kandidieren oder wählen dürfen. Zwar ist es (in Zukunft) sehr verlockend, wenn KI auch regieren und sie würden es besser als Menschen können aber Menschen sollten nicht quasi zu Haustieren verkommen. KI können mit guten Vorschlagen, Analysen und Prognosen die Politik stark beeinflussen aber Menschen sollen in menschlichen Staaten entscheiden.

Einerseits müssen Menschen fit bleiben, beteiligt werden und den Staat hinreichend führen können aber andererseits sind KI, Roboter und Maschinen für einen möglichst guten und erfolgreichen Staat unverzichtbar - da muss man einen guten Mittelweg finden, das sollte machbar sein.

7. Praktisch muss man nur möglichst gute (algorithmische, deterministische, analysierbare, klassisch programmierte) KI entwickeln und die können dann auch irgendwann ein abstraktes Modell vom Menschen haben und Menschen beurteilen. Über den Einsatz von KI in Staat und Gesellschaft ist zu beraten und demokratisch zu beschließen.

KI als Richter und die Menschen bewerten, usw. können schrittweise eingeführt werden, sobald sie gut genug dazu sind. Man kann z.B. eine Volksbefragung durchführen, ob Menschen KI auch für weitere Aufgaben wollen und das Bundesland mit der größten Zustimmung führt als erstes KI dafür ein und dann kann man das beobachten, bewerten, ggf. verbessern und wenn gewünscht überall einführen.

8. Vermutlich gibt es auch ein paar, die notorisch dagegen sind aber Deutschland ist eine Demokratie, wo Mehrheiten entscheiden. Derzeit hat's viele Mißstände und keineswegs sind alle Menschen super gut und perfekt in ihren Urteilen und Taten. Noch sind die KI nicht gut genug aber KI können in Zukunft besser/fähiger als Menschen sein und dann einen wertvollen Beitrag für einen besseren Rechtsstaat leisten - die Menschen werden begeistert sein, auch weil sie viel leichter eine objektive, neutrale, wohlwollende KI-Bewertung hinnehmen können als von anderen Menschen dominiert zu werden, die sie vielleicht nicht mögen. (alles imho)