Veel journalisten zijn al aan de slag met de nieuwe ‘Reimagine’-tool van Google. Hierbij kan AI op Pixel 9 allerlei objecten in je afbeelding maken, in plaats van dat je juist objecten uit de foto schrapt. Hartstikke leuk om een meeuw of een kat toe te voegen, maar de Reimagine-tool kan ook vele stappen verder gaan.
Google's verregaande AI
Meerdere media maken er al melding van dat de kunstmatige intelligentie misschien wat te hardcore is. Een ernstig auto-ongeluk compleet met een wrak? Een lijk op de straat? Elmo in een nazi-pak? Het kan allemaal. Er zijn verschillende redenen waarom bedrijven dit soort generatieve AI-tools vaak restricties geven. Zo kunnen hiermee deepfakes worden gemaakt waardoor bijvoorbeeld kiezers in Amerika gaan denken dat Kamala Harris inderdaad vijftien geweren thuis in haar schuurtje heeft omdat ze daarmee gefotografeerd zou zijn. AI. Of mensen kunnen doen alsof de Eiffeltoren in brand staat en anderen daar enorm door laten schrikken. Ook AI.
Het wordt dan steeds moeilijker om het verschil te weten tussen echt en nep. Nu wordt er soms wel een melding bijgeplaatst dat iets met AI is gemaakt, maar je kunt het nooit van alle afbeeldingen die je ziet zeker weten. Daarnaast is er natuurlijk niet alleen qua geweld of seks een probleem met dit soort nepplaatjes: het is ook problematisch als het om copyright gaat. Disney zit er natuurlijk niet op te wachten dat Mickey en Minnie ineens snuivend aan de bar worden gezet, in plaats van hoe Disney ze zelf altijd heeft beschermd. Nu bleek met de Grok-AI van X al dat je dit wel kon laten maken door de AI en nu lijkt die van Google ook wat ver te gaan.
Gerelateerde artikelen
Pixel Studio
Google zegt er zelf dit over (via 9to5Google): “We ontwerpen onze generatieve AI-hulpprogramma's zodanig dat ze de intentie van gebruikersaanwijzingen respecteren en dat betekent dat ze inhoud kunnen maken die beledigend kan zijn als de gebruiker ze dat opdraagt. Dat gezegd hebbende, niet alles mag. We hebben een duidelijk beleid en Servicevoorwaarden over welke soorten inhoud we wel en niet toestaan en we bouwen vangrails om misbruik te voorkomen. Soms kunnen sommige prompts de beveiliging van deze tools in twijfel trekken en we blijven ons inzetten om de beveiligingen die we hebben voortdurend te verbeteren en te verfijnen.”
Er zijn inderdaad wel degelijk restricties op te merken: mensen maken met Pixel Studio kan bijvoorbeeld niet, maar de eerdergenoemde akeligheden dus wel. Je wil niet dat Cookiemonster ineens een schoolshooting lijkt te hebben aangericht. Tegelijkertijd is AI natuurlijk voortdurend aan het leren, en zal je merken dat er steeds meer prompts zijn die inderdaad niet meer kunnen. Het kan alleen gevaarlijk zijn om dat nu al in handen van mensen te geven, terwijl het dan misschien beter af was bij de onderzoekers van Google zelf om het een en ander nog te finetunen.
Wat vind jij van dit soort generatieve AI-tools? Horen die op smartphones thuis, moeten die aan banden worden gelegd? Deel het nu in de reacties.
