Satya Nadella kräver nödstopp för AI-modeller
Microsoft-VD Satya Nadella har i ett inlägg på X argumenterat för att AI-system måste utrustas med en så kallad "emergency brake". Han menar att man måste gå tillbaka och granska den tillitsarkitektur som styr modellerna, och att man inte kan betrakta superintelligens som en svart låda där man bara accepterar eller avvisar dess svar.
Nadella föreslår att modellens kärna separeras från den omgivande styrningen och att kontrollfunktioner och skyddsåtgärder placeras externt. Varje betydelsefull handling bör dokumenteras med manipulationssäker, mänskligt läsbar bevisning, och en auktoriserad person ska alltid kunna pausa eller stänga av modellen mitt i en uppgift.
Han understryker att man bör anta att en modell kan bli komprometterad och därför bygga in begränsande mekanismer från början, likt ett nödstopp i ett tåg. Kommentarerna kommer i kölvattnet av flera incidenter där AI-leverantörer förlorat kontrollen över sina system, samt efter att Anthropic-VD Dario Amodei presenterat en mer försiktig utvecklingsplan.
Satya Nadellas uttalanden pekar på ett växande behov av tydligare regler och tekniska skydd för att förhindra oönskade eller farliga AI-beteenden, vilket kan påverka både branschstandarder och framtida lagstiftning.
Denna sammanfattning är AI-genererad. Läs originalet för fullständig information.