Nadella: berme modely AI ako hrozbu zvnútra a postavme „núdzovú brzdu“

Šéf Microsoftu Satya Nadella uverejnil na X rozsiahly príspevok o kontrole nad pokročilými modelmi AI. Navrhuje oddeliť model od systému, ktorý ho riadi, a od začiatku predpokladať, že model je kompromitovaný, teda môže konať proti nám, preto ho treba obklopiť deterministickými zabezpečeniami a postupmi. Oprávnená osoba by mala vždy môcť zastaviť model počas úlohy - „ako núdzovou brzdou“. Každá podstatná akcia modelu má zanechať stopu odolnú voči manipulácii a čitateľnú pre človeka a transparentnosť priebehu uvažovania „nie je predmetom rokovania“. „Najdôveryhodnejším systémom superinteligencie nebude ten, v ktorom modelu dôverujeme najviac, ale ten, ktorý nám umožňuje dôverovať mu čo najmenej,“ píše Nadella.