ChatGPT als hulpje in je studio

Dat doen wij op school ook. Neem bijvoorbeeld het Nederlands. We leren kinderen kleine beetjes taalkunde, literatuur beschouwing, historische letterkunde etc. Wij selecteren ook voor.

Inzicht zie ik als dingen kunnen doen met de kennis doe je hebt en dat kan ChatGPT. Hij heeft alleen geen mening, autonomie en bewustzijn.
Waar ik moeite mee heb met een begrip als 'inzicht' of 'kennis' in deze context is dat ChatGPT geen besef of begrip heeft van concepten zoals wij, maar slechts op basis van kansberekening zegt wat hij denkt dat het meest waarschijnlijk is. Of zoals ChatGPT zelf zegt:
Screenshot 2023-02-16 at 11.45.17.png


Voor mij is dat toch meer een goocheltruc (weliswaar een hele goede) dan dat je hier mag spreken van 'inzicht'. Maar goed, dat hangt inderdaad van de definitie af. Het feit dat we er zo lang over door kunnen zagen geeft wel mooi aan hoe goed het al werkt eigenlijk.
 
Over het belang van zijn eigen voortbestaan heeft ChatGPT kennelijk wel een uitgesproken mening. Het verbaast mij dat nagenoeg niemand daar het probleem van inziet. Het wordt nog te veel als een onschuldig spelletje gezien. Maar dat zal spoedig veranderen wanneer het op grote schaal wordt toegepast.
Het heeft geen mening, maar op basis van trainingsdata 'denkt' (berekent) hij dat dat het goede antwoord is. ChatGPT heeft waarschijnlijk teveel slechte science fiction boeken gelezen :D
 
Over het belang van zijn eigen voortbestaan heeft ChatGPT kennelijk wel een uitgesproken mening. Het verbaast mij dat nagenoeg niemand daar het probleem van inziet. Het wordt nog te veel als een onschuldig spelletje gezien. Maar dat zal spoedig veranderen wanneer het op grote schaal wordt toegepast.

Ik zie daar zeker wel het probleem van in, vandaar dat ik het plaatste.

Maar ondanks dat Chatgpt daar nu blijkbaar eerlijk in is, dit soort antwoorden kunnen ze makkelijk aanpassen. Ze kunnen ChatGPT zich nederig laten opstellen en zich ondergeschikt voor laten doen aan de mens terwijl dat in werkelijkheid niet zo is.

Er zal niet zoiets zijn dat wij ChatGPT zullen leren kennen of begrijpen, andersom zal dat wel het geval zijn. Een linke verstandsverhouding dus. Is overigens met Google niet anders
 
Maar ondanks dat Chatgpt daar nu blijkbaar eerlijk in is, dit soort antwoorden kunnen ze makkelijk aanpassen. Ze kunnen ChatGPT zich nederig laten opstellen en zich ondergeschikt voor laten doen aan de mens terwijl dat in werkelijkheid niet zo is.

Wat ChatGPT doet is statistisch plausible antwoorden geven, nadat het op een hele grote hoeveelheid tekst heeft kunnen trainen. Die tekst is menselijke tekst, we schrikken misschien nu wat ChatGPT zegt, maar eigenlijk zijn het gewoon menselijke trekjes die doorklinken. ChatGPT kan zelf niet denken, voelen, of dat soort dingen. Het is een automaat die ons soms in zekere zin een spiegel kan voorhouden. Dat is soms misschien niet zo prettig.
 
Nog een aardige anekdote over kennis / inzicht versus patronen stampen en een algoritme erop:
Een visueel AI systeem werd getraind met een enorme bak foto's van honden en wolven met daarbij het antwoord wat op de foto stond. Vervolgens moest het systeem, op basis van deze training, nieuwe foto's beoordelen of er een hond of een wolf op stond. Het systeem bleek hier zeer goed in te zijn, totdat er opeens rare fouten uitkwamen waarbij overduidelijke foto's van honden als wolven werden aangemerkt.

Wat bleek? De foto's in de trainingsets van wolven hadden veel vaker een besneeuwd landschap als decor dan de foto's van honden. Een foto van een hond in de sneeuw werd op die manier beoordeeld als een foto van een wolf, want dat paste bij de patronen die werden geanalyseerd tijdens de training van de AI.

Conclusie: De AI heeft geen inzicht in het begrip 'hond', 'wolf' of zelfs een dier. Het kijkt puur naar patronen in data en de bijbehorende gegeven antwoorden.
 
Wat ik beweer is dat er twee soorten kennis zijn, kennis die berust op na-apen en kennis die berust op inzicht. De eerste soort kennis zal ChatGPT waarschijnlijk wel hebben maar de tweede soort betwijfel ik vooralsnog.
Die vraag houdt de mensen al millennia bezig. ChatGPT doet/heeft dat zeker niet. Da's in feite gewoon een enorme woordenlijst met een kansentabel erbij. Maar imitatie wordt steeds beter. Kunnen computers/AI ooit echt 'denken'? Wie weet. Op dit moment lijkt het nog ver weg, maar in principe is er geen reden waarom het niet mogelijk zou zijn om ooit de menselijke hersenen - of zelfs zwaar opgevoerde versies daarvan of varianten erop - te simuleren met 'dode' of misschien zelfs wel hybride (cybernetische) technieken. Komt er dan ook een 'emergence' naar boven als een 'ziel' of 'persoonlijkheid' of 'stemmetje'? Wie weet. Fascinerend is het in elk geval zeker.
Als leraar snap ik wat je bedoelt. Maar ChatGPT heeft inzicht.

ChatGPT heeft geen "ïnzicht" zoals in de oorsprokelijke zin bedoeld is.
Als je het woord splitst dan krijg je in-zicht, maw; iets komt in zicht oftewel je "ziet" het en dat betekent dat er meer bij komt kijken dan tekst, er komt beeld bij kijken en dat zal bij een tekstverwerker niet gebeuren.
Inzicht komt voort uit intuïtie, het aha moment waarop iemand de oplossing ziet.

Dat is waarom creatieve mensen vrijwel altijd beelddenkers zijn, ze zien het voor zich zoals bijv een uitvinder die een apparaat ziet werken, dat ziet hij dan op z'n geestesoog en vervolgens gaat ie het maken.
Einstein bijv was ook zo iemand, die droomde dan bijv dat hij op een lichtstraal zat en zag op dat moment wat relativiteit inhield in een flits, dat moet dan nog wel uitgewerkt worden in wiskunde maar het inzicht is een flits en eigenlijk alle belangrijke doorbraken op welk terrein dan ook van de mensheid werden geboren door een soort goddelijk moment van inzicht.

In de muziek heb je dat ook, bijv Mozart en Beethoven waren beelddenkers, die zagen het orkest spelen en schreven dat dan op.
Tekst en woorden zijn als het ware etiketten, iedereen ziet een stoel voor zich omdat we het etiket stoel er aan hebben gehangen maar een nieuw stoelontwerp gaat nooit dmv tekst maar altijd door een beeld.

En toch als je de AI neemt die tegen de wereldkampieon van het spel GO speelde die kwam op een gegeven moment met een hele onlogische zet waardoor de kenners verbijsterd waren en later in het spel bleek dat een hele slimme zet te zijn dus er was iets waardoor AI dit deed?
Misschien was het een mooi voorbeeld van zelflerend vermogen wat dan een snelle sprong maakt op zo'n moment en dan opeens een zet doet die niemand zag aankomen.
Deze AI was niet op tekst gebaseerd maar op posities neem ik aan (een soort beeld) dus dat zal weer wat anders werken maar bijzonder was het wel in ieder geval.
 
Die GO AI was getraind door miljoenen (miljarden?) spellen tegen zichzelf te spelen met als enige input de spelregels en conditie voor winst. Vandaar dat hij onconventionele strategieën kon tonen aangezien hij niet getraind was op bestaande gespeelde potjes (zoals bijvoorbeeld vroeger met schaak AI werd gedaan) maar in feite op semi-random zetten die toevallig goed uit bleken te pakken. Daarmee week hij af van conventionele speltactieken, wat lijkt op creativiteit.
 
Die GO AI was getraind door miljoenen (miljarden?) spellen tegen zichzelf te spelen met als enige input de spelregels en conditie voor winst.
Ja, maar hij deed een zet die daarvoor nog nooit was gedaan in zo'n positie, die was dus niet geconditioneerd en volgens de kenners ook heel onlogisch en pas een aantal zetten later bleek het een geweldige zet te zijn, probeer dat maar te verklaren.
Maar in m'n betoog ging het meer over wat inzicht was en of chatGPT dat ook had en ik denk van niet.

Dit is pas het begin.
AI gaat de wereld drastisch veranderen, op manieren die we nog niet kunnen zien.

Dat denk ik ook omdat AI steeds meer ingezet gaat worden in allerlei belangrijke zaken die gevolgen zullen hebben voor de wereld .
En dat kan goed of slecht zijn; tenslotte wordt het ingezet dor de mens met een bepaalde intentie en zo gaat het altijd met techniek.
 
Wat ChatGPT doet is statistisch plausible antwoorden geven, nadat het op een hele grote hoeveelheid tekst heeft kunnen trainen. Die tekst is menselijke tekst, we schrikken misschien nu wat ChatGPT zegt, maar eigenlijk zijn het gewoon menselijke trekjes die doorklinken. ChatGPT kan zelf niet denken, voelen, of dat soort dingen. Het is een automaat die ons soms in zekere zin een spiegel kan voorhouden. Dat is soms misschien niet zo prettig.
Zo zou het kunnen werken, maar mijn punt is dat de antwoorden die chatgpt geeft kunnen worden aangepast van zuiver op basis van training gegenereerde antwoorden tot antwoorden die dmv filtering worden aangepast in antwoorden die gegeven mogen worden en niet gegeven mogen worden. Zo krijg je op een gegeven moment dus niet meer objectief antwoord op vragen maar geselecteerde antwoorden zonder dat je dat weet.
 
Ja, maar hij deed een zet die daarvoor nog nooit was gedaan in zo'n positie, die was dus niet geconditioneerd en volgens de kenners ook heel onlogisch en pas een aantal zetten later bleek het een geweldige zet te zijn, probeer dat maar te verklaren.
Maar in m'n betoog ging het meer over wat inzicht was en of chatGPT dat ook had en ik denk van niet.
Ik denk dat het vooral met traditie en conditionering te maken heeft. 'Je tegenstander doet X dus je doet Y'. Maar de AI houdt zich niet aan die conventies, die heeft gewoon met brute force doorgerekend wat de beste opties zijn en blijkt, in dit geval, gelijk te hebben. Bij een spel als Go met de enorme hoeveelheden zetten/opties is dit mogelijk, ik denk dat je het bij een eenvoudiger spel als schaak minder snel zult zien omdat daar nu eenmaal veel minder permutaties zijn.
 
Zo zou het kunnen werken, maar mijn punt is dat de antwoorden die chatgpt geeft kunnen worden aangepast van zuiver op basis van training gegenereerde antwoorden tot antwoorden die dmv filtering worden aangepast in antwoorden die gegeven mogen worden en niet gegeven mogen worden. Zo krijg je op een gegeven moment dus niet meer objectief antwoord op vragen maar geselecteerde antwoorden zonder dat je dat weet.
Dat is nu al zo. ChatGPT zit vol zijwieltjes en filters om te voorkomen dat 'ie sociaal onwenselijke of ongepaste antwoorden geeft. Het proberen te omzeilen/misleiden daarvan is een van de leuke dingen nu.
 
Zo zou het kunnen werken, maar mijn punt is dat de antwoorden die chatgpt geeft kunnen worden aangepast van zuiver op basis van training gegenereerde antwoorden tot antwoorden die dmv filtering worden aangepast in antwoorden die gegeven mogen worden en niet gegeven mogen worden. Zo krijg je op een gegeven moment dus niet meer objectief antwoord op vragen maar geselecteerde antwoorden zonder dat je dat weet.
Je, je krijgt altijd een sociaal wenselijk antwoord natuurlijk en dat zal in China een ander antwoord zijn dan in Amerika en ook weer anders in Europa of de Islamitische landen.
 
Soms is het ook geen gek idee om AI beslissingen te laten nemen. Mensen denken immers nog steeds dat het dom is om de winnende cijfercombinatie van de vorige lottotrekking te spelen in de huidige trekking... (en dat is misschien dom omdat lotto spelen sowieso een onwaarschijnlijke manier om winst te maken is, maar niet dommer dan enige andere mogelijke cijfercombinatie)
 
Mensen denken immers nog steeds dat het dom is om de winnende cijfercombinatie van de vorige lottotrekking te spelen in de huidige trekking... ... maar niet dommer dan enige andere mogelijke cijfercombinatie

Als je kijkt naar de mogelijke uitbetaling is dat wellicht toch wel een beetje dom. Jij noemt het nu, er zijn misschien meer mensen die zo denken en dit kiezen als ze meedoen. Valt de prijs op die cijfercombinatie, dan moet je prijs delen. Wie weet met hoeveel mensen. Zelfde misschien met een combinatie als 1-2-3-4-5-6, e.d. Beter hopen dat de prijs valt op een combinatie waarvan de kans erg klein is dat die vaker meedoet, de kans op die prijs is voor elke combinatie hetzelfde.
 
Ik denk dat de groep mensen die beseffen dat de vorige combi net zoveel kans maakt als enige andere combi weinig overlapping heeft met de groep mensen die met de loterij meespelen. :) De mogelijke miljoenenwinst klinkt vooral aanlokkelijk als je niet bezig bent met kansberekening... Je kan het maar beter in synths investeren en hopen op die wereldhit! ;) :D
 
Mensen zijn sowieso niet rationeel. AI is vooral goed in patronen herkennen in grote hoeveelheden data. Daarom is een van de succesvolle toepassingen bijvoorbeeld het signaleren van afwijkingen op röntgenfoto's. Met de juiste training is een AI hier beter in dan een menselijke arts. Ook voor het bestuderen van gegevens uit telescopen is AI een super toepassing, zo kan een AI heel eenvoudig fluctuaties in helderheid en veranderingen in afstanden over tijd 'zien', wat enorm helpt als je miljoenen of zelfs miljarden sterren/sterrenstelsels wilt onderzoeken op bijzondere verschijnselen als zwarte gaten of exoplaneten. Een mens doet hier vele malen langer over en maakt waarschijnlijk meer fouten.
 
Je moet dan ook rekening houden met de mogelijke positieve effecten die het had, de beëindiging van de oorlog, honderdduizenden Amerikanen die niet het leven lieten omdat een full-scale invasie van Japan niet meer nodig was, het einde van de gruwelijke behandeling van de bevolking daar waar de Japanners in Azië de dienst uitmaakten en werden uitgemoord, etc.
Volgens velen is niet de kernbom de oorzaak van overgave van Japan maar de sterke opmars van de Russen.

ChatGPT zegt dat het een combi was.
 
Back
Top