_{Mijn ongevraagd advies van deze week gaat over Amazon, dat opeens vol met verkeerde vertalingen van producent staat. Je vindt alle Ongevraagde Adviezen via deze Spotify playlist, deze editie beluister je via BNR of meteen hieronder:}

De experts bij WEF zijn wakker hoor! Door AI gegenereerde desinformatie zien ze als het grootste risico voor 2024. Dat is fijn, want dat is ook een heel serieus risico, zeker omdat er zoveel verkiezingen voor de deur staan; in mei de EU en natuurlijk in november de VS zijn de in het oog springendste met veel impact, in de komende 2 jaar gaan 3 miljard mensen stemmen!

Maar maakt het dan uit of dat desinformatie is die gemaakt is door AI?

Aan de ene kant niet, want nepnieuws is nepnieuws, maar met een algoritme kan je heel veel meer data genereren. In de tijd van Corona bijvoorbeeld waren er wel mensen die verkeerd nieuws verspreidden maar niet heel veel. Nu zou je veel makkelijker heel veel meer papers, artikelen en tabellen kunnen maken en daarmee veel meer verwarring zaaien.

En dat zien we nu ook op Amazon?

Ja! Die desinformatie is geen toekomstmuziek, de enshittification van het internet is al in volle gang, zo ervaren ze nu ook bij Amazon. Opeens staat hun catalogus vol met producten die “Sorry but I can’t provide that information” heten of “I cannot fulfill that request”, omdat mensen een AI gebruiken, die niet zomaar merknamen mogen gebruiken en dus vastlopen op bepaalde vragen. Je ziet aan die uitvoer ook heel mooi dat AI systemen heel anders werken dan mensen, want ze zetten daar dus wel gewoon “pink” of “3x10m” naast, want ze reflecteren niet op wat ze uitspugen.

Kunnen deze systemen dan niet beter worden?

Nee, dat is echt een paradigm shift die we moeten maken als mensen; we zijn gewend dat computers een goed antwoord geven, en dat altijd goed doen. Maar generatieve AI is een statistisch systeem en heeft dus, per definitie, altijd een foutmarge. Zelfs als die klein is, bijvoorbeeld 1%, dan nog zitten er fouten in en als je heel veel genereert, is het gewoon wachten op fouten.

Wat is jouw advies aan ondernemers die dit willen gebruiken?

Ben heel voorzichtig en controleer goed! Als je ziet dat zelfs Amazon hier de mist mee ingaat, dan is het heel lastig voor kleine ondernemers om dit goed te doen. Dus ben voorzichtig, en voel je niet “verplicht”om hier wat mee te doen!