Zemětřesení v OpenAI ovlivní celý obor umělé inteligence na léta dopředu

(vyšlo také v Computerworldu, link níže )

Prudké zvraty ve společnosti OpenAI, které už pátý den okupují čelní stránky médií, jsou odrazem širších sporů ve filozofii AI komunity, ale především ukázkou vlivu investorů.

Připomeňme si ve stručnosti, co se vlastně během oněch dní stalo:

- V pátek odvolávají čtyři členové správní rady Adam D'Angelo, Helen Tonerová, Ilja Sutskever a Tasha McCauleyová CEO společnosti Sama Altmana, kvůli tomu, že jeho netransparentní jednání údajně podkopávalo schopnost správní rady dohlížet na její chod.
- Správní rada jmenovala Miru Muratiovou dočasnou generální ředitelkou a poté co se opět nedohodla s Altmanem ji v neděli nahradila Emmettem Shearem, bývalým CEO společnosti Twitch.
- Mezitím se Altman, následovaný po vyhazovu Gregem Brockmanem, prezidentem OpenAI, a několika dalšími zaměstnanci, dohodl s Microsoftem na vzniku nové vlastní výzkumné laboratoře.
- V pondělí ráno podepsala naprostá většina zaměstnanců OpenAI (paradoxně včetně Muratiové a Sutskevera) dopis, v němž se zavázali opustit společnost a pracovat v Microsoftu, pokud správní rada neodstoupí a znovu nepověří vedením Altmana a jeho zástupce Brockmana.

Není sice zřejmé, jak se situace vyvine dále, a zda většina zaměstnanců OpenAI skutečně přestoupí do Microsoftu, nebo spíše skončí správní rada společnosti, která za těmito otřesy stojí (což je pravděpodobnou variantou), nicméně už nyní je zřejmých několik poučení pro technologický sektor.

Rychle, nebo pomalu?

Celý spor je většinou komentátorů rámován jako konflikt efektivních akceleracionistů (e/acc) a safetistů, v němž Altman patřil do skupiny akceleracionistů, kteří kladou důraz na rychlou komercionalizaci a uvádění nových služeb, kdežto safetisté, mezi než patří Sutskever i nově najatý CEO Shear spolu s většinou správní rady, kladou větší důraz na bezpečnost nových technologií.

Nastalý konflikt ukázal, že OpenAI především neustála vnitřní pnutí, které doprovázelo její pokračující transformaci z původního modelu neziskové organizace, jejíž misí je „maximalizovat dobro pro lidstvo“ (financované ovšem soukromým kapitálem), v model běžné ziskové entity. Tento kočkopes, kdy na jedné straně má společnost samoregulovat svoji činnost a současně stát na špici vývoje a porážet konkurenci co nejrychlejším zaváděním produktů na trh, se ocitá v permanentním konfliktu a nemůže dlouhodobě fungovat.

Nepovedený převrat, hrozící úplnou a okamžitou decimací společnosti, kterou trh oceňoval na desítky miliard dolarů, nenechal klidným investory, mezi nimi Microsoft a fondy rizikového kapitálu. Zdá se nicméně, že investoři jsou stále určující silou, která rozhoduje a rychlosti a směru vývoje, a nenechá si diktovat od těch opatrnějších, kteří mají bezpečnost AI za jednu z priorit a více vnímají její dlouhodobá rizika.

Za další, jak ukázal dopis zaměstnanců OpenAI, naprostá většina členů technologické komunity podílejících se na vývoji AI, přirozeně patří mezi akceleracionisty a technooptimisty, kterým rizika AI nejsou zřejmá nebo upřednostňují krátkodobý zisk a starosti přenechávají jiným. V tomto konfliktu také očividně oslabila pozice akademiků (Sutskever) ve prospěch vizionářů (Altman) a obchodníků.

Černý Petr v podobě regulace a dozoru tedy zbyde opět hlavně na státních orgánech a agenturách, které mohou například rozhodnout o povinném dedikování části zisků společností na sladění AI, jež budou ovšem nutně pomalejší než soukromý sektor a jejichž opatření nemusí být dlouhodobě účinná.
https://www.computerworld.cz/clanky/zemetreseni-v-openai-ovlivni-cely-obor-umele-inteligence-na-leta-dopredu