KI: Missbrauchsszenarien
- Ersteller KaiX0
- Erstellt am
Leibhaftiger
ww-robinie
Sehr interessant, danke fürs Verlinken. Ich bin gespannt, wie sich das Thema entwickelt...
KaiX0
ww-robinie
Ja, ich ebenso. Schon vor dem Artikel war ich skeptisch eingestellt, allerdings eher aus anderen Erwägungen heraus.
Ich traute meinen Ohren nicht und musste doch wirklich schnell mal zur "Beweissicherung" antreten...
In den Tagesthemen wurde dieser Tage die schwäbische Hausfrau in der Rolle der SPD-Vorsitzenden als "Digitalexpertin" anmoderiert.
Klar, sie hat in den frühen Neunzigern mal einige wenige Jahre in der IT verbracht, die man seinerzeit noch EDV nannte..
In den Tagesthemen wurde dieser Tage die schwäbische Hausfrau in der Rolle der SPD-Vorsitzenden als "Digitalexpertin" anmoderiert.
Klar, sie hat in den frühen Neunzigern mal einige wenige Jahre in der IT verbracht, die man seinerzeit noch EDV nannte..
Mir macht das Thema ziemlich Sorge. Heut erst wieder gehört dass ein gpt bot ein Captcha lösen sollte und es nicht konnte. Also hat er direkt mit Menschen zu Chatten begonnen und um Hilfe gebeten unter dem Vorwand er sei Sehbehindert.
Wenn man sich jetzt vorstellt was die Technik heute tatsächlich schon kann im Vergleich zu dem was der Öffentlichkeit aktuell als Happen hingeworfen wird, wird mir schlecht.
Wenn man sich jetzt vorstellt was die Technik heute tatsächlich schon kann im Vergleich zu dem was der Öffentlichkeit aktuell als Happen hingeworfen wird, wird mir schlecht.
heiko-rech
ww-robinie
Hallo,
mir macht in erster Linie Sorgen, dass ein großer Teil dieser Technologie in den Händen weniger Menschen/ Firmen liegt. Und ein Teil dieser Menschen/ Firmen verfügt auch noch über Unmengen an persönlichen Daten von unzähligen Menschen. So könnte eine KI also nicht nur mit öffentlich zugänglichen Daten trainiert werden, sondern auch mit denen, welche z.B. bei Google und Microsoft nicht öffentlich und sehr privat sind. Ganz zu schweigen von der Möglichkeit, diese Daten mit dieser neuen Technologie auszuwerten und zu verknüpfen und Muster zu erkennen, die ein Mensch so nicht erkennt.
So richtig unwohl wird mir dann bei dem Gedanken, dass diese Technologie dann von Staaten und Regimen genutzt werden könnte, die weit weg von jeglichem demokratischen Denken sind.
In diesem Zusammenhang finde ich dieses Buch sehr lesenswert:
https://de.wikipedia.org/wiki/NSA_–_Nationales_Sicherheits-Amt
Zwar zum Glück alles Fiktion, aber ein sehr beeindruckendes "Was wäre wenn" -Szenario.
Ich bin mir aber sehr sicher, dass es bald die ersten kostenlosen Anwendungen im großen Stil geben wird, bei denen man einen tollen KI-Dienst "umsonst" nutzen kann. Man muss nur seine Daten zur Verfügung stellen, wie bei den sozialen Medien auch. Wir haben ja schließlich alle nichts zu verbergen... Microsoft ist da ja schon auf den Zug aufgesprungen. Windows als Betriebssystem ist in der Realität für die meisten Leute kostenlos. Jetzt wird BING immer stärker als KI dort integriert. Aber das geht natürlich nur mit dem Browser von MS. Aber auch der ist ja kostenlos. Dann ist Google wieder im Zugzwang, da arbeitet man ja auch an einer eigenen KI usw. usw. Noch werden die Nutzer als Kanonenfutter (Datenlieferanten) gebraucht. Aber irgendwann wollen diese Firmen das investierte Geld auch wieder zurück. Dann entstehen vielleicht völlig neue Geschäftsmodelle, die wir uns derzeit noch nicht vorstellen können.
Es besteht, denke ich, auch wenig Hoffnung, dass die Gesellschaft in der Lage ist, das in irgendeiner Form zu regulieren. Die Technik wird sich vermutlich auch in diesem Bereich viel schneller entwickeln, als Regularien entstehen können.
Am Ende können wir aber noch an vielen Stellen (nicht überall) selbst entscheiden, welche Technologien wir in unseren Alltag lassen und welche nicht. Das schwierige wird aber sein, da überhaupt einen Überblick zu behalten, um diese Entscheidung treffen zu können.
Optimismus kommt bei mir nicht wirklich auf, wenn ich über dieses Thema nachdenke.
Gruß
Heiko
mir macht in erster Linie Sorgen, dass ein großer Teil dieser Technologie in den Händen weniger Menschen/ Firmen liegt. Und ein Teil dieser Menschen/ Firmen verfügt auch noch über Unmengen an persönlichen Daten von unzähligen Menschen. So könnte eine KI also nicht nur mit öffentlich zugänglichen Daten trainiert werden, sondern auch mit denen, welche z.B. bei Google und Microsoft nicht öffentlich und sehr privat sind. Ganz zu schweigen von der Möglichkeit, diese Daten mit dieser neuen Technologie auszuwerten und zu verknüpfen und Muster zu erkennen, die ein Mensch so nicht erkennt.
So richtig unwohl wird mir dann bei dem Gedanken, dass diese Technologie dann von Staaten und Regimen genutzt werden könnte, die weit weg von jeglichem demokratischen Denken sind.
In diesem Zusammenhang finde ich dieses Buch sehr lesenswert:
https://de.wikipedia.org/wiki/NSA_–_Nationales_Sicherheits-Amt
Zwar zum Glück alles Fiktion, aber ein sehr beeindruckendes "Was wäre wenn" -Szenario.
Ich bin mir aber sehr sicher, dass es bald die ersten kostenlosen Anwendungen im großen Stil geben wird, bei denen man einen tollen KI-Dienst "umsonst" nutzen kann. Man muss nur seine Daten zur Verfügung stellen, wie bei den sozialen Medien auch. Wir haben ja schließlich alle nichts zu verbergen... Microsoft ist da ja schon auf den Zug aufgesprungen. Windows als Betriebssystem ist in der Realität für die meisten Leute kostenlos. Jetzt wird BING immer stärker als KI dort integriert. Aber das geht natürlich nur mit dem Browser von MS. Aber auch der ist ja kostenlos. Dann ist Google wieder im Zugzwang, da arbeitet man ja auch an einer eigenen KI usw. usw. Noch werden die Nutzer als Kanonenfutter (Datenlieferanten) gebraucht. Aber irgendwann wollen diese Firmen das investierte Geld auch wieder zurück. Dann entstehen vielleicht völlig neue Geschäftsmodelle, die wir uns derzeit noch nicht vorstellen können.
Es besteht, denke ich, auch wenig Hoffnung, dass die Gesellschaft in der Lage ist, das in irgendeiner Form zu regulieren. Die Technik wird sich vermutlich auch in diesem Bereich viel schneller entwickeln, als Regularien entstehen können.
Am Ende können wir aber noch an vielen Stellen (nicht überall) selbst entscheiden, welche Technologien wir in unseren Alltag lassen und welche nicht. Das schwierige wird aber sein, da überhaupt einen Überblick zu behalten, um diese Entscheidung treffen zu können.
Optimismus kommt bei mir nicht wirklich auf, wenn ich über dieses Thema nachdenke.
Gruß
Heiko
Ich halte die in Medien genannten Bedenken und der Wunsch nach einer Entwicklungspause hauptsächlich darauf begründet die eigenen Aktien zu pushen und die Konkurrenz zu behindern.
LG Dani
--
PS: Wer will kann in diesem Faden ab jetzt am Ende seines Beitrages einen Film nennen in dem die Maschinen/KI/Computer die Macht übernehmen wollen: Ich eröffne mit:
Wargames - Kriegsspiele (USA 1983)
LG Dani
--
PS: Wer will kann in diesem Faden ab jetzt am Ende seines Beitrages einen Film nennen in dem die Maschinen/KI/Computer die Macht übernehmen wollen: Ich eröffne mit:
Wargames - Kriegsspiele (USA 1983)
KaiX0
ww-robinie
Damit hast Du exakt auch meine Befürchtungen formuliert. Am Ende entsteht etwas mit ungeheurer Durchschlagskraft, das 1. von niemandem mehr verstanden, 2. ebenso nicht kontrolliert werden und, das ist das Schlimmste daran, es 3. auch gar nicht versucht wird.
Aber hübsch bequem ist ja, nicht wahr?
Naja, und so ersetzt dann künstliche Intelligenz natürliche Dummheit, Evolution halt ;-(
heiko-rech
ww-robinie
Den habe ich auch im DVD-Regal stehen. Aus heutiger Sicht natürlich vollkommen unrealistisch, aber gut
Wie wäre es damit:
https://de.wikipedia.org/wiki/Ex_Machina_(Film)
Am Ende bricht die KI wortwörtlich aus.
Gruß
Heiko
Bei IKEA gab es doch "Anna" die virtuelle Kundenberaterin, kennt die noch wer und weiß was aus der geworden ist?
Mit der konnte man sich auch ganz nett unterhalten. War wohl so eine Art Mini-KI.
--
Skynet aus Terminator (USA 1984)
Mit der konnte man sich auch ganz nett unterhalten. War wohl so eine Art Mini-KI.
--
Skynet aus Terminator (USA 1984)
Zuletzt bearbeitet:
in der make aus dem Heise Verlag ist aktuell ein Nachttisch drin den eine KI entworfen hat, das ist mal ein interessanter Einsatz
https://www.heise.de/select/make/2023/2/2304814420356689019
Ist leider nur ein Link auf den Bezahlartikel, aber das Bild sieht man.
https://www.heise.de/select/make/2023/2/2304814420356689019
Ist leider nur ein Link auf den Bezahlartikel, aber das Bild sieht man.
Der hier hats nachgebaut und gibt seinen Senf zum "KI-Entwurf" ab:
https://www.youtube.com/watch?v=UcC7JUMcCg0
--
Matrix (USA, Australien 1999)
Ich bin, ehrlich gesagt, etwas hin- und hergerissen, was mich mehr empört... Technologie in antidemokratischen Staaten oder ein demokratisches Deutschland, in dem derartige Technologie der Beurteilung von Experten vom Schlage Dobrindt, Scheuer, Flugtaxen-Dorle und jetzt halt Saskia Esken obliegt.
Wenn alle Stricke reißen, ziehe ich dahin, wo Orwell maßgebliche Teile von 1984 geschrieben hat.
Da gibt's drei richtig nette Mädels, die einen ganz passablen Gin brennen... und sonst nix.
KaiX0
ww-robinie
Danke, so habe ich schon lange nicht mehr gelacht...
...bin ja schon ruhig...
Ich für mein Teil halte einen sogenannten "point of no return" beim Thema KI deutlich realistischer als beim Klimathema.
(Bai se wäi - wie die auf die 1.5 ° kommen, weiß ich nicht - zur Saurierzeit war es 10 ° wärmer für 200 Mill. Jahre)
(Bai se wäi - wie die auf die 1.5 ° kommen, weiß ich nicht - zur Saurierzeit war es 10 ° wärmer für 200 Mill. Jahre)
Meinst du dass es den Menschen und praktisch allen anderen jetzt lebenden Organismen besonders gut ergangen wäre zu der Zeit? (Hatte auch nur knapp 2/3 des jetzigen Luftsauerstoffs. Da schnauft sich's nicht mehr besonders entspannt..) Bin in den Dinothema ganz gut drin, dank 2,5 jährigem Sohnemann
Man kann durchaus davon ausgehen dass der Anpassungsprozess, der Millionen von Jahre brauchen würde, die die jetzige Klimaentwicklung leider nur sehr wenigen Organismen lässt, den Mensch nicht mehr Mensch sein ließe.
Tiefer steigen wir in dieses Thema lieber nicht ein, du weist ja selber gerne drauf hin dass Politik tabu ist. Und dafür kratzt dein Beitrag da schon gefährlich nahe an der Oberfläche...
Man kann durchaus davon ausgehen dass der Anpassungsprozess, der Millionen von Jahre brauchen würde, die die jetzige Klimaentwicklung leider nur sehr wenigen Organismen lässt, den Mensch nicht mehr Mensch sein ließe.
Tiefer steigen wir in dieses Thema lieber nicht ein, du weist ja selber gerne drauf hin dass Politik tabu ist. Und dafür kratzt dein Beitrag da schon gefährlich nahe an der Oberfläche...
herumtreiber
ww-buche
- Registriert
- 8. April 2018
- Beiträge
- 268
Die Schnelligkeit des Temperaturanstieg ist das Problem
KaiX0
ww-robinie
Ich bin seit einigen Monaten etwas unfreiwillig, aber hoffentlich nicht umsonst, auf Facebook und Instagram unterwegs. Und, wie soll ich es sagen, weil ich wirklich der Traum aller Frauen bin, folgen sie mir in Horden. Die sind so hübsch, sexy, ...Und verlieben sich in mich. Alle! Das kann ich, mit meinen 64 Jahren, auch voll verstehen.
Da läuft so ein lovescam, Liebesbetrug. Vertrauen erschleichen, dann um Geld wg. Notlage betteln, oder man möge doch der Cryptospezialistin vertrauen und sie würde, aus lauter Zuneigung, mein Geld vermehren. Explosiv!
Bis zu einem gewissen Punkt, nämlich wenn es um Geld geht, wird man eingelullt. Naja, nun bin ich ja nicht völlig verblödet, kann sehr investigativ recherchieren und und beginne meinerseits ein Spiel mit den Scammern.
Und nun zum Punkt: Die sind stronzdoof und merken überhaupt nicht, das ich sie hinhalte, während ich parallel alle Ihre Kontakte warne, um Stillhalten bitte und die Abschaltung dieses Accounts vorbereite.
Ob mir das bei einer KI gelänge?
Da läuft so ein lovescam, Liebesbetrug. Vertrauen erschleichen, dann um Geld wg. Notlage betteln, oder man möge doch der Cryptospezialistin vertrauen und sie würde, aus lauter Zuneigung, mein Geld vermehren. Explosiv!
Bis zu einem gewissen Punkt, nämlich wenn es um Geld geht, wird man eingelullt. Naja, nun bin ich ja nicht völlig verblödet, kann sehr investigativ recherchieren und und beginne meinerseits ein Spiel mit den Scammern.
Und nun zum Punkt: Die sind stronzdoof und merken überhaupt nicht, das ich sie hinhalte, während ich parallel alle Ihre Kontakte warne, um Stillhalten bitte und die Abschaltung dieses Accounts vorbereite.
Ob mir das bei einer KI gelänge?
KaiX0
ww-robinie
Und Leute, diese Dialoge sind dermassen dämlich. Ich streue immer wieder 'love you so much, send more pics' ein und jedesmal, wenn ich das schreibe, habe ich sie wieder an der Angel. Obwohl ich eine Stunde vorher schrieb, ich wisse, sie sein ein scam. So blöde ist keine KI, leider.
KaiX0
ww-robinie
Dies schreibe ich nur, um zu ilustrieren, das eine gut gemachte KI, sprachgewandter und schneller in der Mustererkennung, sich hervorragend zum social engineering eignen würde. Wenn es die Stimme des Enkels/Chefs/einer Vertrauensperson ist? Die Bilder scheinbar echt sind (der Chef sitzt beim Großkunden im Meeting und benötigt sofort! jetzt! die Freischaltung für sensible Daten. Er vergisst doch sein Passwort immer...)?
Perfektes Szenario für eine KI, die genug Bild- und sonstige Daten hat.
Übrigens habe ich gerade gebeten, 'sie' möge 'Tom, I love you so much!' auf einen Zettel schreiben und mit diesem Zettel ein Selfie machen und mir senden. Das dauert, kein Photoshop evtl. Videocall ging ja nicht, Datenvolumen erschöpft. Habe angeboten, Volumen aufzustocken, blöde nur, Vertrag gerade nicht zur Hand. Muhaha.
Love you so much...
Perfektes Szenario für eine KI, die genug Bild- und sonstige Daten hat.
Übrigens habe ich gerade gebeten, 'sie' möge 'Tom, I love you so much!' auf einen Zettel schreiben und mit diesem Zettel ein Selfie machen und mir senden. Das dauert, kein Photoshop evtl. Videocall ging ja nicht, Datenvolumen erschöpft. Habe angeboten, Volumen aufzustocken, blöde nur, Vertrag gerade nicht zur Hand. Muhaha.
Love you so much...
Mitglied 30872
Gäste
Vielleicht schafft es die KI aufgrund ihrer Geschwindigkeit, diesen Globus von Morbus Homo sapiens schnell zu befreien und damit den Klimawandel entscheidend zu beeinflussen.
