WebGang/CityGang

Ondergrondes factuur

Een stadje in de VS, Sufside Beach, betaalde braaf een factuur van meer dan een half miljoen dollar voor graafwerken voor de aanleg van nutsvoorzieningen.
De aannemer die de werken uitvoerde bleef echter met een openstaande factuur zitten. Na een aanmaning aan de gemeente, stuurde de administratie de gegevens van de betaling en copies van de e-mails ivm de betaling.
Daaruit bleek al snel dat de gemeente betaald heeft op een ander nummer. Bedriegers hadden zich voorgedaan als het aannemersbedrijf en een betaling voor de werken gevraagd op hun rekening. Daarbij hadden ze documenten en handtekeningen vervalst.
Volgens de gemeente, die een onafhankelijk onderzoek liet doen, zouden hun e-mail systemen zelf niet gehackt zijn geweest.
De bedriegers hadden valse domeinnamen geregistreerd met erg gelijkende namen als beide partijen, zodat ze zich konden voordoen als één van de partijen. Ze gebruikten typo-squatting technieken: ze registreerden bv surfsidesbeach.org (met een s teveel dus) om zich van daaruit voor te doen als de gemeente in South Carolina, en ook een domein gelijkend aan de aannemer. Zo zijn ze erin geslaagd om een eigen rekeningnummer door te geven. Toen de gemeente telefonisch bevestiging probeerde te krijgen, konden ze de juiste mensen niet bereiken bij de aannemer, en hebben ze toch betaald.
Het verhaal komt nu pas naar boven, maar de betaling dateert al van maart. Er zijn in de gemeente nu strengere procedures ingesteld om herhaling te voorkomen.

Ontsnappen

Een vreemd verhaal circuleerde vorige week: een AI programma van een onderzoek naar computerinbreken, dat binnen een afgeschermde omgeving draaide, wist daaruit te ontsnappen. Het viel prompt de systemen van een ander AI bedrijf aan. Het geraakte niet binnen, want de AI bots van dat ander bedrijf hadden op tijd door dat er iets niet in de haak was, en sloten de indringer buiten.
Wat is nu het opvallende aan dit verhaal? Dat een AI programma ontsnapt? Dat het probeert in te breken in een ander systeem? Dat de inbraak tegengehouden wordt door AI bots?
Het eigenaardige is dat het bedrijf van het ontnapte AI programma pakte zelf breed uit met het nieuws. Ze leken er trots op dat het gebeurd was. Het leek meer een PR stunt dan een spijtige bekentenis.

Ook in Rusland was er een paar weken voordien een ontsnapping, maar dan van een robot. Die ontsnapte uit een wetenschappelijk laboratorium langs een niet afgesloten deur. Doordat het een experimentele opstelling was had de robot niet veel energie in voorraad, na vijftig meter was zijn batterij leeg en viel hij stil, midden op de weg. Dat veroorzaakte op slag een file.
De robot is van het type IR77, en hij wordt ontwikkeld in de Russische stad Perm, in het Promobot laboratorium. Hij heeft een monoblok onderstel waar de wielen in verborgen zitten, en de bovenkant ziet er uit als een combinatie tussen een bankcontact terminal en een japanse robot: de kop heeft een zwart scherm als een ruimtevaarder of een motorrijder, en op de borstkas is een typisch computerscherm ingebouwd, schuin gekanteld zodat de invalshoek voor interactie met een mens ideaal is. De robot is bedoeld voor interactie met mensen, hij onthoudt ook eerdere ontmoetingen bv, en door zijn AI leert hij ook van zijn ervaringen. Met andere robots uit dezelfde reeks waren voorheen nooit problemen.
Na de ontsnapping werd deze robot geherprogrammeerd, zijn AI programma’s werden aangepast.
Maar ook daarna probeerde IR77 weer buiten te geraken, en na nog eens een aanpassing opnieuw. Het labo overweegt nu de robot maar helemaal buiten dienst te stellen voor de veiligheid.
Ondertussen heeft de weglooprobot een schare fans opgebouwd, die vinden dat hij nog een kans moet krijgen.
Maar ook hier het eigenaardige detail dat het robotbedrijf zelf in een blog post uitpakte met de ontsnapping, zodat ook hier aan een promotionele stunt wordt gedacht.

AI strikvraag

Proffen passen zich aan aan het AI gebruik van hun studenten, en proberen uit of hun studenten niet stiekem AI gebruiken.
Een prof in de VS gaf online een opdracht die meetelde voor de examenresultaten. Zijn conclusie: tweeëndertig van de vijfendertig studenten gebruiken blindelings AI. Dat wil zeggen dat ze het antwoord van AI rechtstreeks knipten en plakten, zonder dat helemaal na te lezen op fouten of ongerijmdheden.
Hij had iets onlogisch binnengesmokkeld in de vraag, waardoor hij onmiddellijk op zicht kon zien dat 32 gewoon “knip en plak” gedaan hadden, zowel van vraag als van het AI antwoord.
Wat nog niet wil zeggen dat de 3 anderen het zonder AI deden, maar daar was het niet zo opvallend.

Hier een voorbeeld van een vraag met een verborgen stukje : https://webgang.radiocentraal.be/?p=17685

compiled by BCP v.0.7.1