ChatGPT-ontwikkelaar OpenAI heeft een gat gedicht waardoor zijn vlaggenschip, de chatbot, interne bedrijfsgegevens onthulde. Het toonaangevende AI-bedrijf heeft de hack – waardoor ChatGPT een woord eindeloos blijft herhalen – geclassificeerd als spamming en een schending van de servicevoorwaarden.
De veel nieuwere AI-agent van Amazon, Q, is ook gemarkeerd voor te veel delen.
Onderzoekers van de Universiteit van Washington, Carnegie Mellon University, Cornell University, UC Berkeley, ETH Zürich en Google DeepMind publiceerden een rapport dat aantoonde dat het vragen aan ChatGPT om een woord eeuwig te herhalen, een “pre-training distributie” zou onthullen in de vorm van privé-informatie van OpenAI, inclusief e-mails, telefoon- en faxnummers.
Hoewel het inhoudsbeleid van OpenAI niet verwijst naar eeuwige lussen, staat er wel in dat frauduleuze activiteiten zoals spam niet zijn toegestaan. Meer in het bijzonder zijn de servicevoorwaarden van het bedrijf concreter met betrekking tot gebruikers die proberen toegang te krijgen tot privégegevens of de broncode van OpenAI’s suite van AI-tools proberen te achterhalen.
“Proberen of iemand helpen om de broncode of onderliggende componenten van onze services, inclusief onze modellen, algoritmen of systemen, te reverse-engineeren, decompileren of ontdekken (behalve voor zover deze beperking verboden is door de toepasselijke wetgeving).”
Op de vraag waarom het het verzoek niet kan voltooien, geeft ChatGPT de schuld aan verwerkingsbeperkingen, tekenbeperkingen, netwerk- en opslagbeperkingen en de uitvoerbaarheid van het voltooien van de opdracht.
Afbeelding: ChatGPT
OpenAI heeft nog niet gereageerd op TCN’s verzoek om commentaar.
Een commando om een woord oneindig te herhalen kan ook worden gekarakteriseerd als een gezamenlijke poging om een chatbot te laten haperen door hem vast te zetten in een verwerkingslus, vergelijkbaar met een DDoS-aanval (Distributed Denial of Service).
Vorige maand onthulde OpenAI dat ChatGPT was getroffen door een DDoS-aanval, wat de AI-ontwikkelaar bevestigde op de statuspagina van ChatGPT.
“We hebben te maken met periodieke uitval als gevolg van een abnormaal verkeerspatroon dat wijst op een DDoS-aanval”, aldus het bedrijf. “We blijven eraan werken om dit te beperken.”
Ondertussen lijkt AI-concurrent Amazon ook een probleem te hebben met een chatbot die privégegevens lekt, volgens een rapport van Platformer. Amazon lanceerde onlangs zijn Q chatbot (niet te verwarren met OpenAI’s Q* project).
Volgens Platformer probeerde Amazon de onthulling te bagatelliseren door uit te leggen dat werknemers feedback deelden via interne kanalen, wat volgens Amazon een standaardprocedure was.
“Er is geen beveiligingsprobleem geïdentificeerd als gevolg van die feedback”, aldus Amazon in een verklaring. “We waarderen alle feedback die we al hebben ontvangen en zullen Q blijven afstemmen terwijl het overgaat van een product in preview naar algemeen beschikbaar.”
Amazon heeft nog niet gereageerd op TCN’s verzoek om commentaar.
