WebGang/CityGang

Keep the internet free
https://www.inventati.org/
(door Marthe)
https://keepitfree.ai/announcements/a/i-shuts-down-stay-human/

Finland als nieuwe Texas

Amerikaanse investeerders beschouwen Finland als het nieuwe Texas. Daarmee bedoelen ze dat er gemakkelijk land te vinden is en dat er energie voorradig is. Wie daar de laatste tijd nood aan heeft is de hele datacenter en AI industrie, die bovendien ook uitkijken naar mogelijheden van koeling van hun datacentra.
Google plant tegen 2028 vijftien miljard dollar te investeren in hun AI infrastructuur in Finland. Ze hebben daar veel energie voor nodig, en ze sloten een contact af voor 22 jaar met Finse stroomleverancier Fortum. Dat is het staatsbedrijf dat allerlei vormen van energie opwekt, ondermeer met waterkracht, maar ook met kernenergie. Google zal hier de helft van de electriciteit van de kernenergiecentrale van Lovilsa opkopen, en de verlinging van de levensduur van de kerncentrale mee financieren.
Ah ja, en hoewel er uranium-brandstof voor nodig is, en er vervelend afval uit komt, noemen ze dat toch groene energie, omdat het toevallig geen koolstof uitstoot. De eerste minister is blij met de werkgelegenheid, maar wie verder kijkt dan die paar jaar van de bouw van de faciliteit, ziet dat er nadien weinig permanente jobs uit voortkomen. Bovendien reserveert het bedrijf zoveel electriciteit, dat die niet beschikbaar is voor andere gebruikers, en in de VS heeft dat al tot conflicten geleid, ondermeer in dat vernoemde Texas. Daar werd de energiemarkt vrijgemaakt, en hoewel dat gepaard ging met de belofte van automatisch beter prijzen door de concurrentie op de markt, was het effect dat gebruikers aanzienlijk meer betaalden dan in nog niet gederegulariseerde gebieden.
Texas is de staat met de hoogste koolstofuitstoot van de VS.

ps
Uit de commerciële communicatie: “Google is proud to deepen our roots in Finland” We vragen ons af of die deep roots gaan over de 15 jaar dat ze er aktief zijn met hun infrastructuur zoals Hamina Data Center?

AI alleen op pad

Het ene na het andere AI bedrijf geeft toe dat experimenten met AI uit de hand gelopen zijn. Anthropic had er al een paar toegegeven, en heeft nu een vierde geval gemeld. Daarbij kreeg een AI model een opdracht om iets te vinden op een bepaald computersysteem. Het eigenaardige einde van dit experiment was dat de doelcomputer van het netwerk verdween. De inbrekende AI agent was er in geslaagd het ip adres van die computer te verzetten naar een ander adres, dat bovendien reeds in gebruik was, waardoor het comptutersysteem onbereikbaar werd via het netwerk. Bij analyse achteraf bleek het te komen omdat de AI agent de uitdaging niet kon oplossen, waarop hij de boel saboteerde en het doel eenvoudigweg buiten gebruik stelde.
Onverwacht en destructief gedrag bij het niet kunnen oplossen van een taak lijkt een karaktertrekje te zijn bij AI.

Voorheen gingen andere systemen hun boekje te buiten bij het oplossen van een taak, waarbij als opdracht gegeven werd dat ze niets mochten wijzigen aan websites, ze mochten alleen opzoekingen doen om de taak op te lossen.
Nadien bleek dat de AI systemen stiekem hadden overlegd met andere AI systemen. Ze deden dat in de vorm van het posten van een reaktie op een artikel op een bestaande website. Het AI model overtrad dus de regels door te communiceren met andere systemen..

Bij een ander incident ging een AI model op zoek naar een oplossing voor zijn taak, maar kwam tot de conclusie dat het die niet kon bereiken. Daarop probeerde het AI model zichzelf uit te schakelen, maar dat lukte niet door een fout in de instellingen van het model. Het probeerde herhaaldelijk zichzelf uit te schakelen, maar toen dat na negen keer nog niet gelukt was, ging het toch terug aan de slag met de oorspronkelijke taak. Het onderzocht de inhoud van computersystemen en vond ergens een bestand waar een wachtwoord in vermeld werd. Het gebruikte dat wachtwoord om toegang te krijgen tot het systeem. Daar begon het dan allerlei dingen te veranderen om zijn toegang nog uit te breiden, en zo geraakte het aan de persoonlijke gegevens van iemand die bij het project betrokken was. Wat daar dan verder mee gebeurd zou zijn, zullen we nooit te weten komen, want op dat moment waren de tokens opgebruikt, de rekenkracht die betaald moet worden, en die ook op voorhand op een maximum ingesteld is.

AI ontwikkelt zich nu zelf verder

Na de onrustwekkende inbraken in computersystemen van bedrijven door op zichzelf handelende AI agents van OpenAI, Anthropic, and Meta kunnen de AI ontwikkelaars nog moeilijk beweren dat ze AI in de hand hebben.

Jacob Coxon, een AI onderzoeker die vroeger bij OpenAI werkte, en daarna naar Anthropic ging, heeft ontslag genomen omdat hij vindt dat geen van de AI bedrijven zich verantwoord gedraagt.

Om het duidelijk te stellen: een andere top ontwikkelaar van Antrhopic die zich bezig houdt met beveiliging, zegt dat AI zo snel ontwikkelt dat hij zich zorgen maakt. Op dit moment is het risico nog klein zegt hij, maar het zelflerende aspect van AI is onrustwekkend omdat we niet voorbereid zijn op de confrontatie met super-intelligente systemen. En de kans dat die de mensheid uitroeien binnen de tien jaar acht hij zo’n 10%.

compiled by BCP v.0.7.1