Künstliche Intelligenz, Möglichkeit oder Science-Fiction?

[Giacomo_S]

Möglich. Aber insgesamt würde es mich selbst, wenn es eine Blase sein sollte, die mit einem dumpfen „Poff“ implodiert, doch beunruhigen, wenn da jede Menge leicht zu missbrauchende Hardware ohne so richtigen Verwendungszweck herumsteht.

Kontrollieren muss man den In- und Output der Hardware so oder so.
Mir stösst eher der Energieverbrauch dieser bislang eigentlich unnötigen Rechenzentren bitter auf. Denn auf die eine oder andere Weise ist es die Gesellschaft, die mit den Folgen zusätzlicher Kraftwerke zu leben hat. Es werden dafür Ressourcen verbraucht und es werden Abwässer, Abfälle und Emissionen produziert - egal, ob das jemand "bezahlt".

 

[Popocatepetl]

 

[Ein wilder Jäger]

Nö, das ist nicht „meine“ KI, aber die wird kostenlos mit Opera mitgeliefert.

Deine, im Sinne der von Dir benutzten. Was denn sonst? Daß Du nicht schnell eine programmiert hast, war mir schon klar.

Ich formuliere hier, wenn ich mir auch Mühe gebe, sicher nicht so präzise, wie ich das in einem zu druckenden Artikel täte, das gebe ich gerne zu.

 

[Lupo]

Ich formuliere hier, wenn ich mir auch Mühe gebe, sicher nicht so präzise, wie ich das in einem zu druckenden Artikel täte, das gebe ich gerne zu.

Alles gut. Aber das kommt mir bekannt vor. Es ist immer erstaunlich, wie viel Mühe man in einen Text hinein investieren muss, bis er wirklich makellos ist. Das wäre hier für‘s Forum sicherlich nicht nur überdimensioniert, sondern auch kaum zu schaffen.

Aber erstaunlich, diese KI hat mir doch tatsächlich mehrfach angeboten, ob sie mir den Forenbeitrag schreiben soll, und ob ich‘s vom Stil her lieber locker im Tonfall, sachlich präzise oder literarisch hätte. Habe ich dankend abgelehnt. Ich möchte mich selber ausdrücken, mit allen Unvollkommenheiten, anstatt computergenerierten Spam einzustellen. … Den dann dort womöglich auch nur noch ein Computer liest und mit Spam beantwortet.

Wobei man auch in Frage stellen muss, ob eine EDV, die den Sinn und die Intention des Textes nicht erfassen kann, die zuweilen selbst nicht treffend formuliert und obendrein noch dazu neigt, beim Schreiben zu halluzinieren, wirklich gute Texte machen kann. Nö. Schreiben bleibt Handarbeit, wie die Antifanten sagen würden.

Ich würde hierin für mich keinen Nutzen einer KI sehen. Aber was wäre denn aus meiner Sicht nützlich?

Was ich als überaus praktisch empfände, wäre ein Advocatus Diaboli. Also jemand, der kritisiert, in Frage stellt, Gegenvorschläge macht. Der dabei allerdings konstruktiv und fair bleibt und eine gute Lösung auch akzeptiert. Wenn man sich als Einzelkämpfer irgendwas ausdenkt, ist es nahezu zwangsläufig so, dass man sich in irgendwas verrennt, Irrwege nicht erkennt usw. Was dazu führt, dass man Lehrzeit verliert und Lehrgeld zaht. Know-How ist nun einmal die Summe der schlechten Erfahrungen.

Hier ist ein Advocatus Diaboli, der bildlich gesprochen die Gedanken umrührt und geschmeidig hält, bevor sie sich viel zu früh auf irgend etwas Unausgegorenes verfestigen, eine tolle und auch wertvolle Sache. Gerade, wenn man als Autodidakt irgendwelche Spezialprobleme wälzt, die so gut wie niemanden interessieren und bei denen folglich kaum jemand mitreden kann oder will.

Das wäre dann „meine“ KI. Und im Prinzip geht es mir darum, heraus zu kriegen, ob eine KI das leisten kann. Nett plaudern über die Fachgebiete, die niemanden interessieren, kann sie ja. Aber kann sie sich auch als Advocatus Diaboli nützlich machen? Da bleibt es spannend.

 

[Bunter Hund]

Haben die KIs schon Bewusstsein, wenn sie halluzinieren? Oder sind das falsch laufende Algorithmen?

 

[Lupo]

Ich hatte einfach mal die KI befragt, was da eigentlich los ist, wenn chatGPT die S 3/6 als Dampflok mit ovalen Zylindern beschreibt. Was völliger Blödsinn ist, Dampfzylinder sind immer rund. Vor allem aber: Ich habe im Internet nichts gefunden, was sich irgendwie als Hinweis auf ovale Zylinder verstehen ließe. Also bleibt die Frage, woher die KI diesen Unsinn eigentlich hat?

Laut Ki sind die ovalen Zylinder eine typische Halluzination und da ist auch gar nicht so viel Geist dahinter - von Bewusstsein ganz zu schweigen.

ChatGPT hat versucht, die S 3/6 als eine Dampflok mit Zylindern zu beschreiben versucht. Das ist allerdings insofern banal, weil jede Dampflok Zylinder hat. Also irgend eine besondere Eigenschaft müssen diese Zylinder schon gehabt haben, um erwähnenswert zu sein. Das Sprachmodul der KI merkt also durchaus, dass an dieser Stelle noch etwas fehlt, kann jetzt aber keine große Internetrecherche anstellen, ob und was diese Zylinder denn überhaupt auszeichnet.

Und derartige Probleme löst das Sprachmodul mit Hilfe der Statistik. Sie wählt einfach irgend ein Adjektiv aus, das zuweilen im Zusammenhang mit Zylinder verwendet wurde, hat aber mit „oval“ als konkreter und eindeutig als falsch nachprüfbarer Eigenschaft einen glatten Griff ins Klo getan. Hätte sie von „mächtigen“ Zylindern gesprochen, hätte damit zwar niemand was anfangen können, aber sie hätte nichts wirklich falsches gesagt. Aber natürlich auch den Text nutzlos aufgeplustert.

Also sind die Halluzinationen weniger auf ein frei drehendes Bewusstsein als vielmehr auf Schwächen in der Kommunikationsstrategie zurückzuführen. Aber das ist jetzt natürlich blöde. Gerade bei einem Thema, in dem man sich nicht gut auskennt, ist man natürlich aufgeschmissen und merkt es womöglich gar nicht, wenn einem eine KI einen Haufen Flausen erzählt. Und gerade so Dinger wie ovale Zylinder, die da so in einem Nebensatz untergehen, sind natürlich tückisch.

Also - Fazit für mich: Alles, was eine KI erzählt, und ich zu verwenden gedenke, mindestens doppelt hinterfragen. Die Frage „Wie kommst Du darauf?“ dürfte eigentlich schon reichen. Und - wenn‘s wirklich wichtig ist, besser die Finger von der KI lassen.