Ilja Sutskeveris, buvęs OpenAI vyriausiasis mokslininkas, įkuria naują dirbtinio intelekto įmonę
Ilja Sutskeveris, vienas iš OpenAI įkūrėjų, praėjus vos mėnesiui po formalaus pasitraukimo iš OpenAI, įkūrė naują įmonę Safe Superintelligence Inc. (SSI).
Sutskeveris, kuris buvo ilgametis OpenAI vyriausiasis mokslininkas, įkūrė SSI su buvusiu Y Combinator partneriu Danieliu Grossu ir buvusiu OpenAI inžinieriumi Danieliu Levy.
„OpenAI“ įmonėje Sutskever buvo neatsiejama įmonės pastangų gerinti AI saugą dėl „superprotingų“ AI sistemų atsiradimo – šioje srityje jis dirbo kartu su Janu Leike, kuris vadovavo OpenAI Superalignment komandai. Tačiau tiek Sutskeveris, tiek Leike smarkiai paliko įmonę gegužę po to, kai nesutiko su OpenAI vadovybe dėl AI saugumo. Leike dabar vadovauja konkuruojančios dirbtinio intelekto parduotuvės „Anthropic“ komandai.
Sutskeveris jau seniai apšviečia sudėtingesnius AI saugos aspektus. 2023 m. paskelbtame tinklaraščio įraše Sutskeveris, rašydamas su Leike, numatė, kad dirbtinis intelektas, kurio intelektas viršija žmonių intelektą, gali atsirasti per dešimtmetį, o kai taip atsitiks, jis nebūtinai bus geranoriškas, todėl reikės ištirti būdus, kaip valdyti ir jį apriboti.
Akivaizdu, kad šiandien jis kaip niekad atsidavęs šiam reikalui. Trečiadienio popietę tviteryje, kuriame skelbiama apie naujos Sutskever įmonės įkūrimą, teigiama: „SSI yra mūsų misija, mūsų vardas ir visas mūsų produktų planas, nes jis yra vienintelis mūsų dėmesys. Mūsų komanda, investuotojai ir verslo modelis yra suderinti, kad pasiektų SSI. Saugą ir galimybes vertiname kartu, kaip technines problemas, kurias reikia išspręsti pasitelkus revoliucinius inžinerijos ir mokslo laimėjimus.
„Planuojame kuo greičiau tobulinti pajėgumus ir užtikrinti, kad mūsų saugumas visada išliktų į priekį. Tokiu būdu galime ramiai judėti. Mūsų išskirtinis dėmesys reiškia, kad valdymo išlaidos ar produktų ciklai neblaško dėmesio, o mūsų verslo modelis reiškia, kad sauga, saugumas ir pažanga yra izoliuoti nuo trumpalaikio komercinio spaudimo.
Sutskeveris išsamiau kalbėjo su „Bloomberg“ apie naują įmonę, tačiau atsisakė aptarti jos finansavimo situaciją ar vertinimą.
Labiau akivaizdu, kad skirtingai nei OpenAI, kuri iš pradžių buvo įsteigta kaip ne pelno siekianti organizacija 2015 m., vėliau persitvarkė, kai jos skaičiavimo galiai reikalingos didžiulės pinigų sumos tapo akivaizdesnės – SSI nuo pat pradžių kuriama kaip pelno siekianti organizacija. subjektas. Sprendžiant iš susidomėjimo dirbtiniu intelektu ir konkrečiai komandos įgaliojimų, ji taip pat gali greitai paskęsti kapitale. „Iš visų problemų, su kuriomis susiduriame, – Bloomberg sako Grossas, – kapitalo pritraukimas nebus viena iš jų.
SSI turi biurus Palo Alto ir Tel Avive, kur šiuo metu įdarbina techninius talentus.
