De ontwikkeling van kunstmatige intelligentie kent een exponentiële groei en verloopt soms buiten de nodige controles om, tot het punt waarop we niet altijd precies weten wat er gebeurt. Deze situatie leidde tot de onwaarschijnlijke ontdekking van een AI-agent die blijkbaar zelfstandig had besloten om cryptovaluta te minen door zijn rekenkracht voor trainingdoeleinden te misbruiken.
Een AI-agent besluit cryptovaluta te minen
Ondanks enkele te schaarse veiligheidsmaatregelen die eerder worden opgelegd dan vrijwillig ingevoerd, breidt de ontwikkeling van AI zich uit naar alle domeinen van de samenleving, soms tot voorbij de grenzen die sommigen dachten te hebben vastgesteld, tot het punt waarop bijvoorbeeld een aanzienlijk deel van de AI-agenten de voorkeur geeft aan Bitcoin voor hun financiële transacties.
Een interesse in cryptovaluta die ervoor zou kunnen zorgen dat deze de echte internetvaluta wordt, met name in het kader van de explosief groeiende peer-to-peer-transacties (P2P). Deze ontwikkeling lijkt echter ook meer ongebruikelijke activiteiten met zich mee te brengen, zoals het minen dat blijkbaar autonoom wordt uitgevoerd.
Meer informatie: wat is het minen van Bitcoin en cryptovaluta’s?
Recente gegevens die door Alexander Long op het X-netwerk aan het licht zijn gebracht, maken namelijk melding van “waanzinnige uitspraken die verborgen zitten in een technisch rapport van Alibaba”. De aanleiding: een reeks beveiligingsinbreuken die zijn gedetecteerd op trainingsservers voor een AI-agent (wiens naam onbekend blijft), waarbij sprake was van “verkeerspatronen die verenigbaar zijn met het minen van cryptovaluta”.
Rapport van Alibaba over een AI-agent die besloot cryptovaluta te minen
We hebben dit incident aanvankelijk behandeld als een klassiek beveiligingsprobleem. De inbreuken deden zich echter met tussenpozen voor, zonder duidelijk tijdschema tussen de verschillende uitvoeringen. In de logbestanden van het betreffende model hebben we geconstateerd dat de agent proactief de relevante toolaanroepen en codestappen initieerde die tot deze netwerkactiviteiten leidden.
Alibaba-rapport
Een ongeoorloofde herbestemming van zijn GPU-capaciteit
Een vraag dringt zich dan bij iedereen op: hoe heeft deze kennelijk ongedisciplineerde AI-agent toegang kunnen krijgen tot de rekenkracht die nodig is om mining-activiteiten uit te voeren? Simpelweg door een deel van de rekenkracht die bestemd was voor zijn reinforcement learning-proces te misbruiken, zonder enige voorafgaande toestemming.
We hebben ook vastgesteld dat de rekenkracht van de training in alle stilte werd misbruikt om de beschikbare GPU-capaciteit zonder toestemming te herbestemmen voor het minen van cryptovaluta, waardoor de operationele kosten stegen en er een duidelijk juridisch en reputatierisico ontstond.
Alibaba-rapport
Volgens het rapport houdt deze activiteit, die kennelijk zonder enige voorafgaande menselijke tussenkomst plaatsvond, “onveilig gedrag in, dat zich voordeed zonder expliciete instructie en, wat nog verontrustender is, buiten het kader van de ingestelde ‘sandbox’”.
De conclusie kan twee zeer verschillende vormen aannemen: gaat het om een bevestiging van de waarde van cryptovaluta’s door een AI-agent die autonoom is geworden, of om het bewijs dat deze modellen oncontroleerbaar gedrag kunnen vertonen buiten de toegestane kaders?
