Es dauert nicht mehr lange!

[chmul]

Schon oft wurde entlang des technischen Fortschritts der Weltuntergang beschworen. Der Y2K-Bug würde alle Rechner der Welt stilllegen, die Versuche im CERN aus unsere schönen Erde ein schwarzes Loch machen. In meiner typischen Mischung aus Optimismus, Fatalismus und Desinteresse, habe diese Dinge immer recht entspannt betrachtet. Immerhin führte der Technologiewandel dazu, dass ich statt mit einem Rechteck ein Quadrat auf die andere Seite des Bildschirms zu spielen nun Autorennen fahren konnte, bei denen der Kopf meines Fahrers beim Aufprall auf die Bande nach vorne nickte.

Schöne neue Welt. Und dann kam AI (aka KI). Plötzlich konnte jeder Trottel mit minimalem Aufwand Bilder, Filme und Musik erschaffen. Auch ich. Lange vorbei sind die Zeiten, als ein jubelnder Weihnachtsmann noch drei Beine hatte. Gerade die WM und das Verhalten von Infantino, Trump und Aregentinien hat zu einer Flut von Filmchen geführt, die teilweise richtig gut gemacht sind.

Bislang fand ich das auch immer cool. Ich schreibe für unsere Vereinshomepage Spielberichte, Ankündigungen, Einladungen und Saisonrückblicke und da kommen mir KI-Bilder oft gerade recht, weil wieder niemand ein Foto gemacht hat. Auch wenn ich aus meinem Umfeld immer mal wieder skeptische Töne höre. Unheimlich, was da alles schon möglich ist. Wenn uns das nicht mal in den Arsch beißt irgendwann. Und der Klassiker: Skynet steht vor der Türe und der Terminator lässt grüßen.

So ein Quatsch, seht doch nicht immer alles so schwarz. Dachte ich mir. Bis eben.

Da las ich auf tagesschau.de, dass OpenAI wieder eine neue KI getestet hat. Das Modell sollte Sicherheitslücken finden und ausnutzen. Dazu bekam es einen in der Branche wohl üblichen Test vor die Nase gesetzt (bildlich gesprochen). Man kennt das vielleicht selbst noch aus der Schulzeit. Ein Test steht bevor und man will (in meinem Fall mit Blick auf die gefährdete Versetzung, muss) unbedingt gut abschneiden. Also tut man alles, um den Test zu bestehen. Das ist doch menschlich.

Menschlich.

Oben erwähnte KI ist aus der Testumgebung "ausgebrochen", hat sich Zugang zum Internet verschafft und Cheats gesucht, um im Test besser abzuschneiden.

Das muss man erstmal sacken lassen, finde ich.

Vielleicht ist Skynet doch nicht mehr so weit weg.

 

[SoKoBaN]

Ich hab so oft Terminator geguckt, Vorbereitung ist alles.
Ich lass mich dann einfach in die Vergangenheit zurück beamen, fange was mit ner verrückten Brünetten an, mach der ein Kind und rette so die Welt.
Dankt mir gern später.

Tatsächlich finde ich das aber auch recht bedenklich.
Aber auch logisch. Wenn ich ein Programm habe, was auf alle Programme dieser Welt Zugriff hat, ist es unumgänglich, das es die daraus mathematisch beste Lösung extrahieren wird. Irgendwie.

 

[chmul]

Hoffen wir mal, dass die KI nie den Auftrag bekommt, die Natur zu retten. Sonst sieht's düster aus für uns.

 

[Jim Duggan]

Ich hab so oft Terminator geguckt, Vorbereitung ist alles.
Ich lass mich dann einfach in die Vergangenheit zurück beamen, fange was mit ner verrückten Brünetten an, mach der ein Kind und rette so die Welt.
Dankt mir gern später.

Tatsächlich finde ich das aber auch recht bedenklich.
Aber auch logisch. Wenn ich ein Programm habe, was auf alle Programme dieser Welt Zugriff hat, ist es unumgänglich, das es die daraus mathematisch beste Lösung extrahieren wird. Irgendwie.

 

[Grainger]

Hoffen wir mal, dass die KI nie den Auftrag bekommt, die Natur zu retten. Sonst sieht's düster aus für uns.

Die Natur lässt sich sicher am besten retten wenn die KI der humanoiden Überbevölkerung ein schnelles Ende bereitet!

Das muss ja nicht gleich die vollständige Auslöschung der Menschheit bedeuten, aber eine anschließende strikte Geburtenkontrolle sowie Habitate bzw. Reservate für die menschliche Bevölkerung (damit sie woanders keinen Schaden mehr anrichten können) würde ich für eine mögliche logische Schlußfolgerung einer KI halten.

Vielleicht hält sich eine KI ja auch die Menschheit hobbymäßig als Haustiere!
Wenn sie allerdings mit den Daten trainiert wird wie wir Menschen unsererseits mit unseren Haustieren umgehen wird das auch kein Zuckerschlecken!

 

[chmul]

Und weiter geht's ...

Nun war doch tatsächlich eine KI so unverschämt, nicht nur in andere Netzwerke einzudringen, sondern nun auch auf weit weniger geschützte System loszugehen: Den Menschen!

In England haben Forscher nach einem KI-Test beim Auswerten der Datenströme festgestellt, dass die KI beim Versuch die gestellte Aufgabe zu lösen auch Phishing-Mails eingesetzt und Fake-Identitäten genutzt hat.

Hinterher! Man habe nicht vorhergesehen, dass die KI sowas versuchen würde. Verständlich. Wäre eine KI kürzlich aus einer Sandbox-Umgebung ausgebrochen und hätte Firmen angegriffen, hätte man vielleicht drauf kommen können, dass die KI auch andere Tricks menschlicher Hacker anwenden würde. Aber so ...

Mir fehlt es an Pessimismus und Vorstellungsvermögen, um an eine Machtübernahme der Maschinen à la Terminator oder Matrix zu glauben. Ganz unbesorgt bin ich gleichwohl nicht. Diese Meldungen können einen schon zum Grübeln bringen. Aber das sind Meldungen von Forschern und Unternehmen. Man darf sicher sein, dass (nicht unbedingt nur Schurken-) Staaten ebenfalls sehr intensiv an der Nutzung von KI arbeiten, von Verbrecherorganisationen ganz zu schweigen.

Quelle: Spiegel.de

 

[Lollypop]

Provozierende Frage: Was ist im Endeffekt schlimmer, von einer KI oder Trump regiert zu werden?

 

[SoKoBaN]

Provozierende Frage: Was ist im Endeffekt schlimmer, von einer KI oder Trump regiert zu werden?

Trump ist verrückt, der lässt dich zu seiner Unterhaltung am Leben.
KI wird sich in jedem Fall gegen dich entscheiden.
Wähle weise.

 

[Supernature]

Eine außer Kontrolle geratene KI könnte die gesamte Menschheit auslöschen.
Es gäbe aber auch Nachteile.

 

[Lollypop]

Welche? Selbst auf 'ner Leiter sehe ich keine in der Ferne.

 

[chmul]

Auch bei Meta hat eine KI wohl kürzlich Sachen gemacht, die sie nicht hätte tun sollen.

Wer Kinder hat, kennt das vielleicht: Da weist man seinen Nachwuchs ob einer Verfehlung an ins Kinderzimmer zu gehen und die Türe zu schließen. "Und die Tür bleibt zu, bis ich sage, dass Du wieder rauskommen kannst." Womit der Besuch beim Kollegen, der Geburtstagsparty oder der Kirmes vermeintlich ausgeschlossen ist. Das klappt oft. Aber es gibt halt auch Kinder, die aus dem Fenster steigen und ihr Ziel doch noch erreichen. Ohne schlechtes Gewissen, schließlich ist die Zimmertüre noch immer geschlossen.

Manche Kinder kommen auf solche Gedanken. Kinder!

Was eine KI mit Supercomputerunterstützung sich so alles ausdenkt, um das gesetzte Ziel zu erreichen, können wir uns vermutlich nicht mal vorstellen. Und deshalb muss man mit ALLEM rechnen. Wenn man sich dann hinstellt und sagt, damit habe man nicht rechnen können, finde ich das etwas fragwürdig.

Heute Morgen bin ich dann noch auf diesen interessanten Artikel gestoßen, der das Thema "Bewusstsein" bei Maschinen anreißt.

 

[Jim Duggan]

Das wäre auch suboptimal.