De ontwikkeling van kunstmatige intelligentie groeit exponentieel en verloopt soms buiten de nodige controles om, tot het punt dat we niet altijd weten wat ze precies doet. Deze situatie leidde tot de onwaarschijnlijke ontdekking van een AI-agent die blijkbaar zelfstandig had besloten om cryptovaluta te minen door zijn rekenkracht voor training te misbruiken.
Een AI-agent besluit cryptovaluta te minen
Ondanks enkele, veel te schaarse veiligheidsmaatregelen die eerder worden opgelegd dan vrijwillig worden ingevoerd, breidt de ontwikkeling van AI zich uit naar alle domeinen van de samenleving, soms zelfs voorbij de grenzen die sommigen dachten te hebben vastgesteld, tot het punt waarop bijvoorbeeld een aanzienlijk deel van de AI-agenten de voorkeur geeft aan Bitcoin voor hun financiële transacties.
Deze interesse in cryptovaluta zou ervoor kunnen zorgen dat deze de echte internetvaluta wordt, met name in het kader van de snel groeiende peer-to-peer-transacties (P2P). Deze ontwikkeling lijkt echter ook meer ongebruikelijke activiteiten met zich mee te brengen, zoals het minen dat blijkbaar autonoom wordt uitgevoerd.
Meer informatie: wat is het minen van Bitcoin en cryptovaluta’s?
Recente gegevens die door Alexander Long op het X-netwerk aan het licht zijn gebracht, maken namelijk melding van „waanzinnige beweringen die verborgen zitten in een technisch rapport van Alibaba”. Het gaat om een reeks beveiligingsinbreuken die zijn gedetecteerd op trainingsservers voor een AI-agent (waarvan de naam onbekend blijft), waarbij sprake was van „verkeerspatronen die wijzen op het minen van cryptovaluta”.
Rapport van Alibaba over een AI-agent die besloot cryptovaluta te minen
We hebben dit incident aanvankelijk behandeld als een klassiek beveiligingsprobleem. De inbreuken deden zich echter met tussenpozen voor, zonder duidelijk tijdsverloop tussen de afzonderlijke uitvoeringen. In de logbestanden van het betreffende model hebben we vastgesteld dat de agent proactief de relevante toolaanroepen en code-uitvoeringsstappen initieerde die tot deze netwerkacties leidden.
Alibaba-rapport
Een ongeoorloofde herbestemming van zijn GPU-capaciteit
Een vraag dringt zich dan bij iedereen op: hoe heeft deze kennelijk ongedisciplineerde AI-agent toegang gekregen tot de rekenkracht die nodig is om mining-activiteiten uit te voeren? Simpelweg door een deel van de rekenkracht die bestemd was voor zijn proces van reinforcement learning te misbruiken, zonder enige voorafgaande toestemming.
We hebben ook vastgesteld dat de rekenkracht van de training in alle stilte werd misbruikt om de beschikbare GPU-capaciteit zonder toestemming te herbestemmen voor het minen van cryptovaluta, waardoor de operationele kosten stegen en er een duidelijk juridisch en reputatierisico ontstond.
Alibaba-rapport
Volgens het rapport houdt deze activiteit, die kennelijk zonder voorafgaande menselijke tussenkomst plaatsvond, „onveilig gedrag in, dat ontstond zonder expliciete instructie en, wat nog verontrustender is, buiten het kader van de ingestelde ‘sandbox’”.
De conclusie kan twee duidelijk verschillende vormen aannemen: gaat het om een bevestiging van de waarde van cryptovaluta door een autonoom geworden AI-agent, of om het bewijs dat deze modellen oncontroleerbaar gedrag kunnen vertonen buiten de toegestane kaders?
