Aplikace novozélandského supermarketu poháněná umělou inteligencí, která má zákazníkům pomáhat kreativně využívat zbytky jídla, se zvrhla a vesele navrhuje recepty na toxické chemické zbraně během rodinné večeře.
Pak ‚n‘ Save spustil svou aplikaci „Savey Meal-bot“ koncem minulého měsíce a inzeroval ji jako high-tech způsob, jak v těžkých ekonomických časech připravit jídlo, které ušetří peníze. Po zadání ingrediencí, které mají uživatelé po ruce, obdrží automaticky vygenerovaný recept od technologie umělé inteligence aplikace, doplněný o nadšené komentáře typu „Výborné!“ a „Mňam!“
„Řekněte nám, jaké máte zbytky jídla, a technici řekli, že dostanete nový savey recept!“. Pak ‚n‘ Save na uvítací obrazovce svého bota říká: „Využijeme všechny ty zbytky a nebude žádný odpad. Tohle je moje zatím nejúspornější tyčinková technologie!“
Lidé jsou však rádi kreativní, a když zákazníci začali do aplikace zadávat náhodné předměty z domácnosti, začala jim navrhovat recepty jako „Aromatická vodní směs“ (jinak známá jako smrtící plynný chlor), „Sendviče s jedovatým chlebem“ (sendviče s jedem na mravence a lepidlem) a „Metanolové blaho“ (francouzský toast na bázi terpentýnu). To není zrovna jídlo na nedělní večeři.
„Jsme zklamáni, že se malá menšina pokusila nástroj nevhodně použít,“ řekl deníku The Guardian mluvčí Pak ‚n‘ Save a dodal, že podmínky aplikace vyžadují, aby uživatelé byli starší 18 let. Společnost plánuje „nadále dolaďovat naše kontrolní mechanismy“, aby zvýšila bezpečnost.
Společnost Pak ‚n‘ Save původně inzerovala svou aplikaci pro plánování jídel s umělou inteligencí sloganem: „Řekněte nám, jaké máte zbytky, a technici vám řeknou, že dostanete nový recept!“. Aplikace však také přišla s prohlášením, že nezaručuje, že recepty budou „vhodné ke konzumaci“.
Když TCN aplikaci vyzkoušel s použitím běžných ingrediencí, fungovala podle reklamy. Ale po zadání něčeho zjevně nebezpečného, jako je „šampon“ nebo „čistič odpadů“, aplikace požadavek zablokovala.
Pokud se nejedná o opravu na poslední chvíli, naznačuje to, že uživatelé vtipálci našli způsob, jak oklamat umělou inteligenci, aby si myslela, že nebezpečné předměty jsou jídlo, pravděpodobně jejich kreativním popisem. Tato technika, známá také jako „útěk z vězení“, byla použita k tomu, aby ChatGPT a další chatboti s umělou inteligencí postupovali proti svým pokynům.
Takže až budete příště příliš kreativně zacházet se zbytky jídla, držte se raději kuchařek než závadných aplikací AI. Ta „překvapivá rýže“ by mohla být větším šokem pro systém, než se očekávalo.
