Távozott az OpenAI egyik biztonsági vezetője, szerinte az MI-cégek messze nem elég óvatosak

Otthagyja az OpenAI-t a cég egyik biztonsági vezetője, aki arra figyelmeztetett, hogy a vállalati kultúra megromlott, a mesterséges intelligencia (MI) területén működő cégek pedig „messze nem elég óvatosak” a technológia fejlesztésekor – számolt be a Guardian.

David Robinson ChatGPT fejlesztői csoportjában az új termékekhez, fejlesztésekhez kapcsolódó biztonsági jelentéseket írta. Robinson szerint a legkorszerűbb mesterséges intelligencia-cégeknél változásokra van szükség. „Egyetértek a közelmúltban távozott munkatársakkal abban, hogy a technológiát fejlesztő cégek közel sem elég óvatosak. De úgy vélem, hogy a konkrét szabályoknál vagy új törvényeknél mélyebbre kell ásnunk. A teljes kultúráról kell beszélnünk” – fogalmazott.

Szerinte az OpenAI fejlesztési ütemére jellemző, hogy egyik újításról a másikra ugrálnak, miközben nem tudják elérni azt a biztonsági szintet, amire szükség lenne. Az OpenAI az utóbbi hetekben viszont mintha lassítana, a héten például bejelentették, hogy elhalasztják egy új generációs ⁠MI-modelljük kiadását, miután a belső tesztelés közben biztonsági aggályok merültek fel.

Geoffrey Irving, aki az OpenAI-nál és a DeepMind-nál is dolgozott, mielőtt a Resolution vezető kutatója lett, szombaton csatlakozott a mesterséges intelligencia fejlesztési üteme miatt aggódók köréhez. A Time magazinban megjelent cikkében így fogalmazott: „A mesterséges intelligencia potenciális pusztító erejéről szóló legutóbbi figyelmeztetések alábecsülik a helyzet súlyosságát”. Szerinte 50 százalék az esélye annak, hogy mindenki meghal az embernél okosabb MI-rendszerek fejlesztése miatt. Hozzátette: a következő 2-10 évben tett lépések fognak meghatározni mindent.

David Robinson két biztonsági változtatást szorgalmazott. Szerinte az MI-cégeknek támaszkodniuk kell más területek (például a nukleáris energia és a repülés) biztonsági szakértelmére, emellett pedig egy olyan „új tudományt” kellene kifejleszteniük, amely biztosítja, hogy a nagy teljesítményű rendszereket önálló működésük során is kordában lehessen tartani.

Az utóbbi időben az MI-cégek saját fejlesztői egymás után kezdték el kongatni a vészharangot, hogy éppen most dől el az emberiség sorsa, és a szabályozatlan fejlesztés lesz a vesztünk. Erről bővebben ebben a cikkben írtunk. Vannak szkeptikusok is, a 2008-as pénzügyi krachot megjósoló Steve Eisman szerint az MI-ben érdekelt cégek érdeke pánikot kelteni csupán az MI biztonságával kapcsolatban. Nemrég beszélgettünk is a stúdiónkban a témáról.