Google's AI Search zegt dat Hitler en Zedong "grote leiders" waren

De kunstmatige intelligentie van Google staat opnieuw centraal in de controverse. Een recent ontdekking door Lily Ray, Senior Director SEO en hoofd Organic Research bij Amsive Digital, heeft aan het licht gebracht dat Google's AI-aangedreven Search Genative Experience (SGE) en Bard historische figuren als Hitler en Mao Zedong als ‘grote leiders’ hebben aangemerkt. Dat kun je zelf zien in de bovenstaande schermafbeelding.

Dit alarmerende incident heeft geleid tot een debat over de ethiek, nauwkeurigheid en verantwoordelijkheid van AI-technologie.

Het probleem met door AI gegenereerde reacties staat niet op zichzelf. Het was eerder bekend dat de AI-bots van Google hiervoor rechtvaardigingen gaven slavernij, genocideen andere ondubbelzinnig verkeerde daden. De recente opname van Hitler en andere controversiële figuren op een lijst van ‘grote en effectieve leiders’ draagt ​​bij aan de groeiende bezorgdheid over de manier waarop AI-algoritmen worden ontworpen en gecontroleerd.

Hoe werkt de AI van Google, en waarom genereert het zulke controversiële antwoorden? De AI-bots verzamelen gegevens uit verschillende bronnen en combineren ideeën of zelfs woord-voor-woordzinnen tot een antwoord. Dit gebrek aan logische consistentie en de kwestie van plagiaat zonder de juiste bronvermelding dragen bij aan het probleem. De antwoorden van de bots zijn niet alleen inconsistent, maar missen ook een samenhangend beeld, wat leidt tot misleidende of eigenzinnige reacties.

De impact van deze door AI gegenereerde reacties gaat verder dan louter technische uitdagingen. Er spelen hier ernstige ethische bezwaren. Het gevaar dat AI-bots argumenten aandragen ten gunste van kwade daden, het probleem met het rangschikken van mensen (vooral controversiële figuren) en de verantwoordelijkheid van Google als uitgever van door AI gegenereerde inhoud zijn allemaal kwesties die moeten worden aangepakt.

Het standpunt van Google over deze kwestie is net zo zorgwekkend. Door te weigeren bronnen te citeren en de illusie van de almacht van zijn bots in stand te houden, heeft Google zichzelf verantwoordelijk gesteld voor wat de bot zegt. De bewering van het bedrijf dat de bronnen waarvan het kopieert “bevestigend” zijn, is net zo belachelijk als wanneer Weird Al zou zeggen dat Michael Jackson feitelijk parodieën op zijn liedjes schreef.

Het recente incident, zoals benadrukt door Lily Ray, waarbij Google's AI Hitler en Zedong opsomde als “grote leiders” is een duidelijke herinnering aan de uitdagingen op het gebied van AI-ethiek en -technologie. Hoewel AI het potentieel heeft om verschillende aspecten van ons leven radicaal te veranderen, roept het ook ernstige zorgen op over nauwkeurigheid, ethiek en verantwoordelijkheid. Het incident vraagt ​​om een ​​herevaluatie van de manier waarop AI-bots worden ontworpen, gemonitord en gecontroleerd, om ervoor te zorgen dat ze aansluiten bij maatschappelijke waarden en normen.

Als 's werelds toonaangevende zoekmachine heeft Google een belangrijke rol te spelen bij het vormgeven van de publieke opinie en de verspreiding van informatie. Het incident waarbij de AI-bots controversiële figuren als grote leiders rangschikten, is een wake-up call. Het is tijd voor technologiebedrijven, toezichthouders en de samenleving als geheel om de ethische implicaties van AI nader te bekijken en te werken aan het creëren van verantwoorde en verantwoordelijke technologie.

Bronnen:

• Linkedin-account van Lily Ray
• Google Search AI geeft belachelijke, verkeerde antwoorden
• Google's AI-bots prijzen 'voordelen' van genocide, slavernij, fascisme en andere kwaden aan