Vaše pračka má přísnější pravidla než AI, varuje prezident Microsoftu

• Brad Smith tvrdí, že AI dnes podléhá menšímu množství bezpečnostních pravidel než běžné spotřebiče
• Microsoft prý podporuje nezávislé kontroly AI systémů a povinné hlášení incidentů
• Podle Smithe nestačí spoléhat jen na dobrovolnou samoregulaci technologických firem

Umělá inteligence se rychle dostává do stále většího množství služeb a produktů, podle prezidenta Microsoftu Brada Smitha ale pravidla jejího používání za vývojem technologie výrazně zaostávají.

„Právě teď podléhá vaše pračka přísnějším bezpečnostním pravidlům než AI,“ řekl Smith v podcastu BBC Big Boss. Jako další příklad zmínil běžné potraviny, které musí procházet bezpečnostními kontrolami a inspekcemi.

Podle něj nestačí spoléhat pouze na dobrovolná pravidla samotných technologických firem. Smith proto volá po závazné regulaci AI na globální úrovni. Jedním z návrhů je povinnost informovat lidi ve chvíli, kdy jejich systémy napadne nebo zneužije autonomní AI agent. Před uvedením nových modelů na trh by je zároveň podle Smitha měli testovat také nezávislí hodnotitelé, nikoliv pouze samotné firmy.

U autonomních systémů by chtěl vidět i něco na způsob bezpečnostní brzdy, která by umožnila jejich činnost zastavit, pokud by se něco pokazilo.

Smith přitom AI popisuje zároveň jako „nástroj i zbraň“. Právě proto podle něj nestačí, když odpovědné společnosti dodržují vlastní interní pravidla. Problém mohou představovat firmy, které se dobrovolně bezpečnostními zásadami řídit nebudou.

„Dobré společnosti udělají to, co po nich chcete. Starosti vám musí dělat ty, které tak odpovědné nejsou,“ dodal.