Nadella: zacházejme s modely AI jako s hrozbou zevnitř a vybudujme „nouzovou brzdu“
Šéf Microsoftu Satya Nadella zveřejnil na X rozsáhlý příspěvek o kontrole nad pokročilými modely AI. Navrhuje oddělit model od systému, který jej řídí, a od začátku předpokládat, že model je kompromitovaný, tedy může jednat proti nám, a proto je třeba obklopit jej deterministickými pojistkami a postupy. Oprávněná osoba by měla vždy moci model zastavit uprostřed úkolu - „jako nouzovou brzdou“. Každá významná akce modelu má zanechat stopu odolnou proti manipulaci a čitelnou pro člověka a transparentnost procesu uvažování podle něj „nepodléhá vyjednávání“. „Nejdůvěryhodnější systém superinteligence nebude ten, ve kterém modelu důvěřujeme nejvíce, ale ten, který nám umožňuje důvěřovat mu co nejméně,“ píše Nadella.