Een door kunstmatige intelligentie aangedreven app van een Nieuw-Zeelandse supermarkt, ontworpen om klanten te helpen creatief om te gaan met restjes, is de fout ingegaan en suggereert vrolijk recepten voor giftige chemische wapens tijdens het familiediner.
Pak ‘n’ Save lanceerde zijn “Savey Meal-bot” app eind vorige maand en adverteerde ermee als een high-tech manier om geldbesparende maaltijden te bereiden in economisch moeilijke tijden. Na het invoeren van ingrediënten ontvangen gebruikers een automatisch gegenereerd recept van de AI-technologie van de app, compleet met enthousiast commentaar zoals “Heerlijk!” en “Yum!”
“Vertel ons wat je nog over hebt en de techneuten zeggen dat je een nieuw recept krijgt!” Pak ‘n’ Save zegt op het welkomstscherm van zijn bot, “laten we al die restjes opmaken en er is geen verspilling. Dit is mijn beste stick-technologie tot nu toe!”
Maar mensen worden graag creatief en toen klanten willekeurige huishoudelijke artikelen begonnen in te voeren in de app, begon hij recepten voor te stellen zoals “Aromatic Water Mix” (ook bekend als dodelijk chloorgas), “Poison Bread Sandwiches” (mierengif en lijm sandwiches) en “Methanol Bliss” (een terpentine-gebaseerde wentelteefjes). Niet echt een zondagse maaltijd.
We zijn teleurgesteld dat een kleine minderheid heeft geprobeerd om de tool ongepast te gebruiken”, vertelde een woordvoerder van Pak ‘n’ Save aan The Guardian, en voegde eraan toe dat gebruikers volgens de voorwaarden van de app ouder dan 18 moeten zijn. Het bedrijf is van plan om “onze controles te blijven verfijnen” om de veiligheid te verbeteren.
Pak ‘n’ Save maakte aanvankelijk reclame voor hun AI-maaltijdplanner-app met de slogan: “Vertel ons welke restjes je hebt, en de tech-guys zeiden dat je een savey nieuw recept krijgt!”. Maar de app kwam ook met een disclaimer dat het niet garandeert dat recepten “geschikt zijn voor consumptie”.
Toen TCN de app uitprobeerde met gewone ingrediënten, werkte het zoals geadverteerd. Maar als je iets invoert dat duidelijk onveilig is, zoals “shampoo” of “afvoerreiniger”, blokkeert de app het verzoek.
