AI voortplanting * Bijna afgeluisterd
i-nieuws 6 na 6 ** October 15th, 2026 by wim.webgang **
AI voortplanting
Meestal zijn de grote AI modellen stijl ChatGPT in het nieuws, maar de meeste problemen kwamen van experimentele AI agents. Die werken samen en breken uit de hen toegewezen afgelijnde computerruimte, en gaan via het internet inbreken op andere systemen om hun doel te bereiken. Nu waarschuwt Anthropic voor kleine AI modellen, die ook snel evolueren. Tegen volgend jaar zouden die in staat kunnen zijn om zichzelf te vermenigvuldigen en verspreiden via allerlei computersystemen en IOT apparatuur. Die kleinere internet of things systemen zoals slimme camera’s, deurbellen, digicorders, interactieve tv’s, en allerlei toestellen die aan het internet hangen, zijn dikwijls minder goed beveiligd, en zijn toch krachtig genoeg om een kopie van een klein AI model te verspreiden. Het model kan ook het werk verdelen over verschillende apparaten om tot hetzelfde resultaat te komen. Als dat AI model dan evolueert richting malware, krijg je een fenomeen als een computerworm: een uit zichzelf voortkopierend programma dat bovendien de capaciteit van AI heeft. Dat zal voor de mens niet gemakkelijk op te sporen zijn. Want malware die gemaakt wordt door mensen heeft meestal één of meer centrale servers waar het van afhangt, maar deze AI replicators hebben geen centraal punt van waaruit ze kunnen gedeactiveerd worden. Het kan zelf leren nieuwe apparaten binnen te dringen.
Bijna afgeluisterd
OpenAI postte op X een bericht dat ze gesofisticeerde afluisterapparatuur hadden ontdekt in een ruimte in het gebouw van het bedrijf. Voor ze het FBI verwittigden, probeerden ze eerst zelf te weten te komen hoe de vork in de steel zat. Ze schakelden hun AI model in en dat leidde tot de identificatie van een werknemer van het bedrijf als inplanter van de apparatuur. Die werd op staande voet ontslagen. Nadien wou het FBI er ook nog even mee praten, en ze arresteerden hem.
Het afluisterapparaat was volgens CNBC geinstalleerd in een vergaderzaal van de directie van het bedrijf.
Uit de vrijgegeven foto’s lijkt het op de achterkant van een groot computerscherm in de conferentiezaal gezeten te hebben. Het geheel had maar de grootte van een usb-stick.
Het ontdekte apparaat vertoonde de leesbare tekst:
“Seeed Studio 2.40 A-02″. Seeed is een merk van zelfbouwapparatuur voor de wereld van de kleine computerbordjes als Arduino. De aanduiding is terug te vinden bij Seeed en verwijst naar een combinatie van een LiPo batterij en Seeed Studio XIAO ESP32-S3. Dat is een klein micro-controller-bord met ingebouwde microfoon en camera. In sleep mode verbruikt het maar 14 micro-Ampere. De 2.4 van de tekst verwijst naar de 2.4 GHz wifi/bluetooth verbinding van het bord. Het “gesofisticeerd apparaat” is ook hier gewoon voor een goede 15 euro te bestellen.
compiled by BCP v.0.7.4