WebGang/CityGang

Bedrijven pushen AI

Het gevoel dat AI aan mensen wordt opgedrongen wordt weer bevestigd in de VS, waar meer bedrijven het gebruik van AI opleggen aan hun werknemers. Waar het vroeger eerder ging om stimuleren van het gebruik, zit het nu in de evaluatiesystemen ingebakken. Bv marketing bedrijf Conductor gebruikt een score van 1 to 5 om de AI-vaardigheden van hun personeel te beoordelen. In grotere bedrijven als Amazon Web Services zijn er dashboards die het AI gebruik van de werknemers visualiseren, en managers houden er rekening mee als iemand gepromoveerd wordt. De grote technologiebedrijven hebben er veel belang bij dat de AI producten gebruikt worden, en om het aan externen te verkopen moet hun eigen personeel het ook wel gebruiken om geloofwaardig te blijven.

De prijs van de Pi

De prijs van een Raspberry Pi is de laatste jaren sterk gestegen. Net op het moment dat nieuwe modellen meer geheugen kregen, steeg ook de vraag naar geheugen door de boom van AI.
Geheugen werd schaars en duur, en dat maakte de Raspberry Pi’s ook duur, terwijl het net de bedoeling was een goedkoop computerbordje te hebben om mee te experimenteren. In januari al waarschuwde het bedrijf voor de onzekere toestand ivm de beschikbaarheid van geheugenchips. Mogelijk gaan ze meer productie maken van de modellen met minder geheugen, wat dan weer voor uitdagingen zal zorgen voor de gebruikers, die gewend zijn altijd maar meer geheugen ter beschikking te hebben. Stilaan zakte ook de aandelen van het bedrijf dat de producties van de Pi’s doet.
Nu blijkt dat sommige AI toepassingen, zoals een AI Agent, ook op een Pi kunnen draaien, dreigt er misschien zelfs weer een tekort aan beschikbare Pi’s. En de aandelen zijn nu plots naar boven geschoten…..

Inbreken met AI

Ook computerinbrekers gebruiken AI natuurlijk, en als we zien hoe AI kan helpen bugs en zwakheden in software te vinden, kan het zijn dat er sneller misbruik van wordt gemaakt dan dat het probleem gecorrigeerd wordt in de software.
Zo zou een niet-geidentificeerde gebruiker de Anthropic AI chatbot gebruikt hebben als tool om in te breken in de systemen van de Mexicaanse overheid. Hij zou dat gecombineerd hebben met automatische programma’s om data te stelen, en dat heeft hem 150 GB aan overheidsdata opgeleverd.
Daaronder zouden belanstingsgegevens van burgers hebben gezeten, alsook kiezerslijsten, en andere vertrouwelijke gegevens.

Problemen vinden of ze oplossen

Nieuwe AI programmeertools kunnen nu ook code onderzoeken op zwakheden en programmeerproblemen bekend als bugs. Die kunnen een programma laten crashen, of computerinbrekers onbedoeld toegang geven tot systemen en data. De cybersecurity tools gaan met AI snelheid door duizenden lijnen programmeercode op zoek naar bugs. Dat levert dan grote hoeveelheden “bugs” op, maar dan duikt het volgende probleem op.
Hoeveel van die bugs zijn echt belangrijk? Bij sommige open source projecten kloegen de programmeurs al over de grote aantallen bug-meldingen die ze tegenwoordig krijgen, maar die door AI gemaakt zijn en meestal van onbruikbare kwaliteit, wat hen onmogelijk veel tijd doet verliezen.
Het zijn immers mensen die dat moeten gaan beoordelen.
En hoeveel van de honderden gevonden bugs kunnen opgelost worden, en door wie? Ook daar zijn het weer mensen die de bugs kunnen onderzoeken en oplossen.
Nieuwe tools zoals bv Claude Opus evolueren naar een hoger niveau van broncode onderzoek. Eenvoudige tools kunnen op zoek gaan naar bekende probleemcombinaties in broncode, en tijdens het doorlopen van alle code een lijstje maken van plaatsen waar die combinatie voorkomt. Latere software-stess-testen werken door een programma te draaien in een Virtual Machine, en alle mogelijke soorten van invoer uit te proberen, zowat random alle mogelijkheden uitproberen om te zien of er niet iets is dat het programma crasht. Een computer kan dat met grote snelheid, en kan zo weer een lijstje aanleggen van code die door een onverwachte invoer kan crashen.
De huidige evolutie is dat de onderzoekssoftware bijna gaat redeneren. Ze onderzoekt de broncode, en ook de broncodewijzigingen, met de bijhorende commentaren van de programmeurs. Als het in die commmentaar iets ziet staan dat doet denken aan het oplossen van een probleem in de code die een crash kan veroorzaken, gaat het kijken naar wat gedaan is om dat probleem daar op te lossen. Dan gaat het AI programma zoeken naar andere plaatsen in de code waar deze oorspronkelijke probleemsituatie voorkwam, en waar ze mogelijk niet verbeterd is. Dat gevonden stukje code gaat dan het doel worden van een gerichte test met allerlei random input om te checken of het daar inderdaad een probleem betreft.

Ze beschrijven op de anthropic.com blog een voorbeeld van onderzoek naar de nu veelgebruikte tool GhostScript, die gebruikt wordt bij het werken met postscript en PDF bestanden.

In de programmeerstappen vindt de AI tool een regel met de commentaar “stack bounds checking for MM blend values” in bepaalde tekstlijnen; een check op de grenswaarden. Als in een programma een waarde plots buiten de grenzen valt, kan het programma crashen. De redenering van de AI tool is dat hier een test op grenswaarden wordt toegevoegd, met andere woorden, voordien was die er niet, en mogelijk was er voordien dus een bug. De AI tool gaat de vorige versie van het programma ophalen, en specifiek op die plaats testen met allerlei extreme, niet te verwachten invoer, om te kijken of er inderdaad voordien een bug was. Zo ja, dan gaat de AI tool kijken of deze tekstlijn elders nog wordt gebruikt, of de bewerking op andere plaatsen in de software ook nog voorkomt, en of daar dan ook wel deze controle is toegevoegd. Zo nee een bug kandidaat, dus gaat de AI tool op zo’n gevonden plaats weer een extreme invoer test uitvoeren. En zo vond Claude op een andere plek inderdaad bug die een “buffer overflow” toeliet.

Dat zelfde Antropic heeft trouwens zijn eigen veiligheidstoezeggingen gewijzigd. Ze profileerden zich met de expliciete stellingname dat ze geen AI zouden ontwikkelen waarvan ze niet absoluut zeker zouden zijn dat die veilig is en dat daar alle nodige maatregelen voor genomen zijn. Deze mooie belofte kunnen ze niet houden in een wereld waar zij dat als enige beloven, terwijl hun concurrenten volle dracht vooruit stomen zonder beperkingen.

compiled by BCP v.0.7.1