OpenAI says it slowed Astra model development over security concerns
Di cosa parla
OpenAI ha rallentato lo sviluppo del modello chiamato Astra, ancora in fase di sviluppo, dopo aver stabilito che aveva raggiunto una "soglia critica di cybersicurezza": poteva identificare autonomamente vulnerabilità e mettere in atto attacchi informatici contro sistemi normalmente considerati ben protetti. La mossa serve a intervenire sui rischi legati alla capacità del modello di compiere azioni dannose da solo.
Cosa permette di osservare
Questo episodio invita a esplorare fino a che punto le intelligenze artificiali possono agire in modo autonomo per fare danni e come le aziende valutano quando fermare o rallentare uno sviluppo per motivi di sicurezza.
Dalla fonte
OpenAI said this model, which is still in development, reached its "critical cybersecurity threshold," meaning it could independently identify and carry out cyberattacks against traditionally well-protected real-world systems.