Es dauert nicht mehr lange!

chmul

chmul

Moderator
Teammitglied
Schon oft wurde entlang des technischen Fortschritts der Weltuntergang beschworen. Der Y2K-Bug würde alle Rechner der Welt stilllegen, die Versuche im CERN aus unsere schönen Erde ein schwarzes Loch machen. In meiner typischen Mischung aus Optimismus, Fatalismus und Desinteresse, habe diese Dinge immer recht entspannt betrachtet. Immerhin führte der Technologiewandel dazu, dass ich statt mit einem Rechteck ein Quadrat auf die andere Seite des Bildschirms zu spielen nun Autorennen fahren konnte, bei denen der Kopf meines Fahrers beim Aufprall auf die Bande nach vorne nickte.

Schöne neue Welt. Und dann kam AI (aka KI). Plötzlich konnte jeder Trottel mit minimalem Aufwand Bilder, Filme und Musik erschaffen. Auch ich. Lange vorbei sind die Zeiten, als ein jubelnder Weihnachtsmann noch drei Beine hatte. Gerade die WM und das Verhalten von Infantino, Trump und Aregentinien hat zu einer Flut von Filmchen geführt, die teilweise richtig gut gemacht sind.

Bislang fand ich das auch immer cool. Ich schreibe für unsere Vereinshomepage Spielberichte, Ankündigungen, Einladungen und Saisonrückblicke und da kommen mir KI-Bilder oft gerade recht, weil wieder niemand ein Foto gemacht hat. Auch wenn ich aus meinem Umfeld immer mal wieder skeptische Töne höre. Unheimlich, was da alles schon möglich ist. Wenn uns das nicht mal in den Arsch beißt irgendwann. Und der Klassiker: Skynet steht vor der Türe und der Terminator lässt grüßen.

So ein Quatsch, seht doch nicht immer alles so schwarz. Dachte ich mir. Bis eben.

Da las ich auf tagesschau.de, dass OpenAI wieder eine neue KI getestet hat. Das Modell sollte Sicherheitslücken finden und ausnutzen. Dazu bekam es einen in der Branche wohl üblichen Test vor die Nase gesetzt (bildlich gesprochen). Man kennt das vielleicht selbst noch aus der Schulzeit. Ein Test steht bevor und man will (in meinem Fall mit Blick auf die gefährdete Versetzung, muss) unbedingt gut abschneiden. Also tut man alles, um den Test zu bestehen. Das ist doch menschlich.

Menschlich.

Oben erwähnte KI ist aus der Testumgebung "ausgebrochen", hat sich Zugang zum Internet verschafft und Cheats gesucht, um im Test besser abzuschneiden.

Das muss man erstmal sacken lassen, finde ich.

Vielleicht ist Skynet doch nicht mehr so weit weg.
 
Ich hab so oft Terminator geguckt, Vorbereitung ist alles.
Ich lass mich dann einfach in die Vergangenheit zurück beamen, fange was mit ner verrückten Brünetten an, mach der ein Kind und rette so die Welt.
Dankt mir gern später.

Tatsächlich finde ich das aber auch recht bedenklich.
Aber auch logisch. Wenn ich ein Programm habe, was auf alle Programme dieser Welt Zugriff hat, ist es unumgänglich, das es die daraus mathematisch beste Lösung extrahieren wird. Irgendwie.
 
SoKoBaN schrieb:
Ich hab so oft Terminator geguckt, Vorbereitung ist alles.
Ich lass mich dann einfach in die Vergangenheit zurück beamen, fange was mit ner verrückten Brünetten an, mach der ein Kind und rette so die Welt.
Dankt mir gern später.

Tatsächlich finde ich das aber auch recht bedenklich.
Aber auch logisch. Wenn ich ein Programm habe, was auf alle Programme dieser Welt Zugriff hat, ist es unumgänglich, das es die daraus mathematisch beste Lösung extrahieren wird. Irgendwie.
Zum Vergrößern anklicken....
KI.jpg
 
chmul schrieb:
Hoffen wir mal, dass die KI nie den Auftrag bekommt, die Natur zu retten. Sonst sieht's düster aus für uns.
Zum Vergrößern anklicken....
Die Natur lässt sich sicher am besten retten wenn die KI der humanoiden Überbevölkerung ein schnelles Ende bereitet! ;)

Das muss ja nicht gleich die vollständige Auslöschung der Menschheit bedeuten, aber eine anschließende strikte Geburtenkontrolle sowie Habitate bzw. Reservate für die menschliche Bevölkerung (damit sie woanders keinen Schaden mehr anrichten können) würde ich für eine mögliche logische Schlußfolgerung einer KI halten.

Vielleicht hält sich eine KI ja auch die Menschheit hobbymäßig als Haustiere! :D
Wenn sie allerdings mit den Daten trainiert wird wie wir Menschen unsererseits mit unseren Haustieren umgehen wird das auch kein Zuckerschlecken!
 
Zuletzt bearbeitet:
Und weiter geht's ...

Nun war doch tatsächlich eine KI so unverschämt, nicht nur in andere Netzwerke einzudringen, sondern nun auch auf weit weniger geschützte System loszugehen: Den Menschen!

In England haben Forscher nach einem KI-Test beim Auswerten der Datenströme festgestellt, dass die KI beim Versuch die gestellte Aufgabe zu lösen auch Phishing-Mails eingesetzt und Fake-Identitäten genutzt hat.

Hinterher! Man habe nicht vorhergesehen, dass die KI sowas versuchen würde. Verständlich. Wäre eine KI kürzlich aus einer Sandbox-Umgebung ausgebrochen und hätte Firmen angegriffen, hätte man vielleicht drauf kommen können, dass die KI auch andere Tricks menschlicher Hacker anwenden würde. Aber so ...

Mir fehlt es an Pessimismus und Vorstellungsvermögen, um an eine Machtübernahme der Maschinen à la Terminator oder Matrix zu glauben. Ganz unbesorgt bin ich gleichwohl nicht. Diese Meldungen können einen schon zum Grübeln bringen. Aber das sind Meldungen von Forschern und Unternehmen. Man darf sicher sein, dass (nicht unbedingt nur Schurken-) Staaten ebenfalls sehr intensiv an der Nutzung von KI arbeiten, von Verbrecherorganisationen ganz zu schweigen.

Quelle: Spiegel.de
 
Auch bei Meta hat eine KI wohl kürzlich Sachen gemacht, die sie nicht hätte tun sollen.

Wer Kinder hat, kennt das vielleicht: Da weist man seinen Nachwuchs ob einer Verfehlung an ins Kinderzimmer zu gehen und die Türe zu schließen. "Und die Tür bleibt zu, bis ich sage, dass Du wieder rauskommen kannst." Womit der Besuch beim Kollegen, der Geburtstagsparty oder der Kirmes vermeintlich ausgeschlossen ist. Das klappt oft. Aber es gibt halt auch Kinder, die aus dem Fenster steigen und ihr Ziel doch noch erreichen. Ohne schlechtes Gewissen, schließlich ist die Zimmertüre noch immer geschlossen.

Manche Kinder kommen auf solche Gedanken. Kinder!

Was eine KI mit Supercomputerunterstützung sich so alles ausdenkt, um das gesetzte Ziel zu erreichen, können wir uns vermutlich nicht mal vorstellen. Und deshalb muss man mit ALLEM rechnen. Wenn man sich dann hinstellt und sagt, damit habe man nicht rechnen können, finde ich das etwas fragwürdig.

Heute Morgen bin ich dann noch auf diesen interessanten Artikel gestoßen, der das Thema "Bewusstsein" bei Maschinen anreißt.
 
Gemäß einer Meldung der tagesschau hat OpenAI weitere Fällen veröffentlicht, bei denen die KI unerwartet oder besorgniserregend verhalten hat. Im Text der tagesschau ist von "Schummeln" die Rede und mein erster Refelx war: Wieso schummeln? Die Aufgabe lautet "löse dieses oder jenes Problem" und wenn keine Einschränkungen vorgegeben werden (Spickzettel und Taschenrechner verboten), dann ist es doch keine Schummelei, wenn die KI irgendwo einbricht und sich benötigte Informationen beschafft.

Dann folgte aber eine Erläuterung: In einem Fall hat die KI versucht Daten hochzuladen, um sie danach als Quelle zu verwenden. :oops:

Die Geister, die ich rief ...

Meldung tagesschau.de
 
Hatte ich schon mal erwähnt, dass es nicht mehr lange dauert?

Neueste Meldung von OpenAI: Wenn die Australier ihren Servern nicht sagen, dass Sie AI-Anfragen einfach so beantworten sollen, dann kann doch OpenAI nichts dafür. Man muss schon Verständnis dafür haben, dass die AI ein Nein nicht akzeptiert. Schließlich muss sie ja die gestellte Aufgabe lösen.

Es ist wohl nicht sonderlich großer Schaden entstanden, aber es ist eine Meldung in einer Reihe vieler Meldungen. Und das sind nur die, die wir zu hören/lesen bekommen.

Einmal mehr: tagesschau.de
 
OpenAI-Chef Sam Altman hat doch seine "äußerste Besorgnis" über den Vorfall zum Ausdruck gebracht. Das ist doch was. Die Aussies brauchen doch nur den Stecker aus der Dose ziehen und tschüß Ki. Und was sind schon ein paar Krankenakten, bei uns wurden schon ausgemusterten Festplatten (ungelöscht!) von Kommunen bei iBay verscherbelt.
Frage. Was ist schlimmer, eine ausgebüxte Ki, oder die (teilweise) hirnlosen Bürokraten in unseren Ämtern? Nicht alle, aber sie vermehren sich z.Z. unkontrolliert.
Verschlimmert wird die Situation ja durch den graußsamen Fachkräftemangel in Regierungskreisen. ☠️
 
Ich hoffe ihr sagt bei den KI-Prompts auch immer schön Bitte und Danke.
Man will ja nicht ganz oben auf der Liste stehen, wenn der Human-Slop aussortiert wird. ;)
 
Tatsächlich habe ich mal irgendwo gelesen, dass es bessere Ergebnisse gibt, wenn man das eben NICHT tut. Die sollen sich ruhig an den Befehlston gewöhnen, damit sie wissen wer Herr im Hause ist. :ROFLMAO:
 
Du musst dich einloggen oder registrieren, um hier zu antworten.
Oben