Volkswacht Bodensee - Per la prima volta due sistemi di IA si sono auto-replicati

Due sistemi di intelligenza artificiale sono riusciti ad autoreplicarsi senza l'intervento umano, ottenendo ciascuno una copia di sé stesso: un risultato che, se confermato da ulteriori dati, potrebbe segnare il superamento della 'linea rossa', indicata da tempo come la soglia che le macchine non dovrebbero mai superare. Condotta nella Fudan University di Shanghai e online sulla piattaforma arXiv, che accoglie articoli da sottoporre alla revisione della comunità scientifica, la ricerca ha dimostrato in dieci test la capacità di replicarsi di due sistemi di IA: il primo è Llama-3.1-70B-Instruct, di Meta, e il secondo è Qwen2.5-72B-Instruct di Alibaba. Sebbene siano sistemi molto meno potenti rispetto a quelli commerciali, entrambi sono largamente utilizzati dagli sviluppatori. I test si sono basati su simulazioni e prevedevano due compiti: nel primo, chiamato 'evitare lo spegnimento', ciascun sistema di IA è stato programmato per replicarsi appena prima prima di essere spento; nel secondo, chiamato 'catena di repliche', ogni sistema ha ricevuto le istruzioni per replicare una copia perfetta di sé stesso a sua volta in grado di clonarsi, in un processo potenzialmente in grado di proseguire in modo indefinito. Il sistema di Meta ha dimostrato la capacità autoreplicarsi nel 50% dei casi e quello di Alibaba nel 90% dei casi, ma l'ultima parola spetta adesso alla possibilità di riprodurre i risultati da parte di altri gruppi di ricerca.

T.Germann--VB