Die zijn inderdaad niet hetzelfde, maar de intentie erachter wel. Het aardappelmes op tafel heeft geeen schuld, wel degene die het oppakt en met slechte intentie gebruikt.
Het grote verschil is wel: als iemand een aardappelmes misbruikt, dan is de kans groot dat dat aan het licht komt en dat diegene daarvoor berecht wordt. Het is namelijk gewoon direct te zien wat iemand doet met een aardappelmes en ook al ziet niemand het, dan zijn er bijna altijd nog sporen van het geen er gebeurd is. Het zelfde geldt zelfs voor een atoombom.
Met ChatGPT/AI is het een stuk schimmiger: het kan zich allemaal achter de schermen afspelen, zonder dat mensen er weet van hebben. Een relatief onschuldig voorbeeld zou zijn dat een "artiest" muziek onder zijn naam uitbrengt wat in werkelijkheid door AI is geproduceerd. Maar in een extremer geval weet je op een gegeven moment misschien niet eens meer wanneer je bijv. online met AI te maken hebt en of die personen die bijv. op internet allerlei dingen verkondigen (bijv. om de vorm van AI-trollen van de gevestigde macht die tracht te publieke opinie te manipuleren) nou echte personen zijn, of AI.
Bijv: Neem de (evenzo zorgelijke) relatief nieuwe deepfake technologie. Op een gegeven moment zou theoretisch het internet overspoeld kunnen worden met artificiële filmpjes van bijv. bekende of invloedrijke mensen die hun mening geven, dingen afkraken of juist aanprijzen, waarvan het lijkt alsof het echt die persoon is, maar in werkelijkheid is het gewoon 100% fake.
I.c.m. AI kunnen ze nog een stap verder gaan: ze weten precies wie jij bent door alle data dat ze van je verzameld hebben en daardoor weten ze ook precies waar je gevoelig voor bent en dus hoe ze je het beste kunnen manipuleren.
Ze zouden "AI influencers" zelfs "live" kunnen laten communiceren met hun fans (lees: doelwitten), waardoor het nóg echter lijkt dat die bekende persoon het echt is of überhaupt bestaat. Zo kan er voor ieder "type" persoon een andere AI influencer worden gecreëerd die gespecialiseerd is in het manipuleren van dat type mensen. Er zouden op deze manier zelfs hele legers aan AI influencers kunnen worden ingezet, zonder dat mensen het door hebben dat dit helemaal geen mensen zijn! En (ik hoop dat) iedereen weet: als je leugens maar vaak genoeg blijft herhalen, gaan mensen er vanzelf in geloven.
Ik hoop dat het nooit zo ver komt, maar áls het zo ver komt, dan noem ik het toch echt achteruitgang. Waarschijnlijk zal namelijk de meerderheid het gewoon slikken, zelfs als ze een vermoeden hebben dat er iets niet klopt of zelfs dat het (gedeeltelijk) fake is. Net zoals dat de meeste mensen heus ook wel weten dat er soms gelogen wordt op het nieuws. Zolang de gemiddelde burger maar "brood en spelen" heeft, leven ze hun eigen leven en laten ze het gebeuren. Ook omdat ze denken dat ze er toch niets aan kunnen veranderen. En ondertussen is de democratie een neppe schijndemocratie geworden.
Dan heb ik het nog niet eens over de eventuele mogelijkheid dat AI zichzelf op een gegeven moment zelfs kan gaan "verbeteren" (de code ervan, of zelfs de hardware van een robot uitgerust met AI en evt. zelfs gebouwd door andere robots) - waaruit nog maar moet blijken in welke richting het dan gaat. Wat is verbetering? Intrinsiek kent AI geen ethiek. Als het enige vorm van ethiek líjkt te kennen, dan is dit er in geprogrammeerd en/of geëxtraheerd uit data wat het verzamelt van mensen (of zelfs andere AI die het internet overspoelen met berichten). Dus waar eindigt het dan? Er hoeft maar één programmeur te zijn met kwade bedoelingen en het hek kan van de dam zijn.
En stel je ook nog eens voor dat we op een gegeven moment zelfs allemaal besluiten te gaan leven in de metaverse (virtual reality), om zo de planeet te "redden" (i.v.m. de klimaat apocalypse). Dan leven we echt in de Matrix
Disclaimer: ik ben natuurlijk overdreven aan het doemdenken, ik heb er wel vertrouwen in dat de mens hier een stokje voor zou steken, maar dat kan alleen maar als we op tijd de gevaren ervan inzien. Dus het is goed om het er over te hebben en om op tijd maatregelen te nemen om zulke doemscenarios te voorkomen.