Traders: Por que o Vale do Silício odiou a derrubada da OpenAI de Sam Altman

Não é todo dia que a empresa mais famosa do mundo se incendeia. No entanto, parece que foi isso que aconteceu na sexta-feira, quando O conselho da OpenAI anunciou Demitiu seu presidente-executivo, Sam Altman, porque ele “não foi consistentemente franco em suas comunicações com o conselho”. Na linguagem corporativa, eles estão combatendo as palavras à medida que elas aparecem: eles insinuaram que Altman estava mentindo.

A demissão desencadeou uma sequência desconcertante de eventos que mantiveram a indústria tecnológica colada aos seus feeds sociais durante todo o fim de semana: primeiro, eliminou 48 mil milhões de dólares da avaliação do maior parceiro da OpenAI, a Microsoft. As especulações sobre irregularidades eram altas, mas funcionários, veteranos do Vale do Silício e investidores se reuniram em torno de Altman e, no dia seguinte, uma conversa estava acontecendo Para trazê-lo de volta. Em vez de algum incidente violento, relatório indicado Esta foi principalmente uma disputa sobre se Altman estava fabricando e vendendo IA de forma responsável. Na segunda-feira, as negociações falharam, com a maioria dos funcionários da OpenAI ameaçando demitir-se, e Altman anunciou que iria ingressar na Microsoft.

o tempo todo, alguma coisa Outro Arde em chamas: A imaginação de que qualquer coisa que não seja a motivação do lucro irá governar a forma como a IA é desenvolvida e implantada. As preocupações com a “segurança da IA” aumentarão cada vez que os gigantes da tecnologia procurarem tirar partido de uma nova fonte de receitas.

É difícil exagerar o quão selvagem é toda essa saga. Num ano em que a inteligência artificial varreu o mundo dos negócios, a OpenAI, com os seus omnipresentes produtos ChatGPT e Dall-E, tem sido o centro do universo. E Altman foi seu porta-voz de renome mundial. Na verdade, ele tem sido o porta-voz mais proeminente da IA.

Para que o próprio conselho de uma empresa de alto nível destituísse um CEO de tal estatura numa sexta-feira, sem qualquer aviso ou indicação prévia de que algo sério estava acontecendo – Altman o fez. Agora! Ocupando o centro das atenções em uma conferência muito aguardada para anunciar o lançamento da loja de aplicativos da OpenAI – isso é quase inédito. (Muitos compararam os eventos à famosa rejeição de Steve Jobs pela Apple em 1985, mas isso também ocorreu depois que as vendas do Lisa e do Macintosh não atenderam às expectativas, e não durante o pico de sucesso do Apple II.)

Então, o que diabos está acontecendo?

Bem, a primeira coisa que é importante saber é que o conselho da OpenAI é, por definição, constituído de forma diferente da maioria das corporações – é uma organização sem fins lucrativos estruturada para salvaguardar o desenvolvimento da IA ​​em vez de maximizar a rentabilidade. A maioria dos conselhos tem a tarefa de garantir que os seus CEO servem melhor os interesses financeiros da empresa; O conselho da OpenAI tem a tarefa de garantir que o seu CEO não seja negligente no desenvolvimento da inteligência artificial e atue no melhor interesse da “humanidade”. Este conselho sem fins lucrativos controla a empresa com fins lucrativos OpenAI.

entendi?

Como dito por Jeremy Khan Sorte, ,A estrutura da OpenAI foi concebida para permitir à OpenAI angariar as dezenas ou mesmo centenas de milhares de milhões de dólares necessários para ter sucesso na sua missão de construir inteligência artificial geral (AGI)… bem como forças capitalistas. gigante da tecnologia de controlar a AGI. E, no entanto, diz Khan, assim que Altman fechou um acordo de mil milhões de dólares com a Microsoft em 2019, “a estrutura era basicamente uma bomba-relógio”. O tique-taque ficou mais alto quando Microsoft afunda outros US$ 10 bilhões Na OpenAI em janeiro deste ano.

Ainda não sabemos o que o conselho realmente quis dizer ao dizer que Altman “não foi consistentemente sincero em suas comunicações”. Mas os relatórios concentraram-se numa divisão crescente entre o braço científico da empresa, liderado pelo cofundador, cientista-chefe e membro do conselho. Ilya Sutskevere o ramo comercial, liderado por Altman.

Nós pendência saiba que Altman tem Esteve em modo de expansão recentemente, em busca de bilhões em novos investimentos Do Fundo Soberano de Riqueza do Oriente Médio Começar uma empresa de chips para rivalizar com a Nvidia, fabricante de chips de IA, e Um bilhão a mais que o Softbank Para um empreendimento com o ex-chefe de design da Apple, Jony Ive, para desenvolver hardware focado em IA. E isso se soma ao lançamento da mencionada loja de aplicativos OpenAI para desenvolvedores terceirizados, que permitirá a qualquer pessoa criar IAs personalizadas e vendê-las no mercado da empresa.

A narrativa de trabalho agora parece ser que a mentalidade expansionista de Altman e o seu impulso para comercializar a IA – e provavelmente há muito mais que ainda não sabemos sobre isto – entraram em conflito com a facção Sutskever, que ficou preocupada. crescendo muito rápido. Pelo menos dois membros do conselho estão associados ao chamado movimento de altruísmo eficazQue vê a IA como uma força potencialmente destrutiva que poderia destruir a humanidade.

O Conselho decidiu que a conduta de Altman violava a ordem do Conselho. Mas eles também (de alguma forma, descontroladamente) falharam em prever o tamanho do golpe que seriam se demitissem Altman. E esse golpe veio com força de furacão; Funcionários da OpenAI e atores poderosos do Vale do Silício, como Brian Chesky e Eric Schmidt, do Airbnb, passaram o fim de semana “Eu sou Spartacus” falando de Altman.

Não é difícil perceber porquê. As conversas estavam acontecendo com OpenAI Vender ações a investidores com uma avaliação de US$ 86 bilhões, A Microsoft, que investiu mais de 11 mil milhões de dólares na OpenAI e agora utiliza a tecnologia da OpenAI nas suas plataformas, foi aparentemente informada da decisão do conselho de demitir Altman cinco minutos antes do resto do mundo. A sua liderança ficou furiosa e parece ter liderado um esforço para reintegrar Altman.

Mas, para além de tudo isto, reside a questão de saber se deveria realmente haver quaisquer salvaguardas para o modelo de desenvolvimento de IA defendido pelos principais impulsionadores do Vale do Silício; Deverá o conselho ser capaz de destituir um fundador que acredita não estar a agir no melhor interesse da humanidade – o que, mais uma vez, é a sua missão declarada – ou deverá ser obrigado a continuar a expandir e a ampliar o conselho?

Olha, mesmo que o conselho da OpenAI acabe sendo o verdadeiro vilão nesta história, como aponta o analista de capital de risco Eric Newcomer, provavelmente deveríamos Pegar Isso é decisão a sério, Demitir Altman provavelmente não foi uma decisão tomada de ânimo leve, e só porque eles estão brigando agora que se descobriu que a ligação era uma ameaça financeira potencial para a empresa não significa que suas preocupações sejam infundadas. longe disso.

Na verdade, seja o que for, já conseguiu sublinhar o quão agressivamente Altman está a perseguir interesses comerciais. Para a maioria dos gigantes da tecnologia, esta seria uma situação “bem feita”, mas Altman cultivou cuidadosamente a aura de um guru burlesco alertando o mundo sobre grandes mudanças perturbadoras. lembre-se daqueles olhos de cão pastor audiência no Congresso Onde, há alguns meses, ele implorou para regular a indústria para que ela não se tornasse poderosa demais? Toda a reclamação de Altman é que ele é um mensageiro cansado que quer lançar as bases para o uso responsável da IA ​​que beneficie a humanidade – mas ele também está vagando pelo mundo atraindo investidores sempre que possível., está fazendo tudo o que pode para capitalizar este momento de intenso interesse na IA. .

Para aqueles que observavam de perto, sempre pareceu uma encenação – afinal, algumas semanas depois dessas audiências, altman disputado regras do mundo real A UE procurava proibir a implantação de IA. E esquecemos que a OpenAI foi originalmente fundada como uma organização sem fins lucrativos que afirmava operar com extrema transparência – antes de Altman a transformar numa empresa com fins lucrativos que financiava o seu próprio negócio.

Agora, não acredito nem por um momento que a IA esteja prestes a se tornar poderosa o suficiente para destruir a raça humana – acho que isso é algo que acontece no Vale do Silício (Incluindo o novo CEO interino da OpenAI, Emmett Shearer) afastando-se de um senso de auto-importância de ficção científica, e Uma estratégia de marketing inteligente e única – mas eu pendência Imagine os muitos danos e perigos que a IA pode causar no curto prazo. E ter as preocupações de segurança da IA ​​expostas tão minuciosamente na ponta dos dedos do Vale não é nenhuma alegria.

Você gostaria de acreditar que os executivos de empresas de construção de IA que pensam que há um risco significativo de catástrofe global aqui não podem ser postos de lado só porque a Microsoft perdeu algum valor das ações. Mas estamos aqui.

Sam Altman é, antes de mais nada, um vendedor dos maiores produtos de tecnologia do ano. Ninguém tem certeza de quão útil ou interessante a maioria desses produtos será no longo prazo, e eles não estão ganhando muito dinheiro no momento – então a maior parte do valor está ligada ao próprio vendedor. Investidores, funcionários da OpenAI e parceiros como a Microsoft precisam que Altman viaje pelo mundo dizendo a todos que a IA irá eclipsar a inteligência humana a qualquer momento, devido à necessidade de um chatbot de alto funcionamento.

É por isso que, mais do que tudo, é um golpe para a Microsoft. Agora ele tem Altman internamente, onde pode torcer pela IA e fazer acordos o quanto quiser. Eles ainda têm a licença técnica do OpenAI, e o OpenAI precisará da Microsoft mais do que nunca.

Agora, ainda pode acontecer que isto não tenha sido nada mais do que uma luta pelo poder entre os membros do conselho de administração, e que tenha sido um golpe que correu mal. Mas se descobrir que o conselho tinha preocupações genuínas e as reportou a Altman sem sucesso, não importa como você se sinta sobre a questão da segurança da IA, devemos nos preocupar com este resultado. Deveríamos: Outra consolidação de poder de um das maiores empresas de tecnologia e ainda menos responsabilidade pelo produto do que antes.

Se alguém ainda acredita que uma empresa pode prosseguir o desenvolvimento de um produto como a IA sem receber encomendas crescentes das Big Tech, espero que o desastre de Altman os tenha desiludido dessa fantasia. A realidade é que não importa quais outras informações sejam fornecidas à empresa por trás do ChatGPT, o resultado será o mesmo: o dinheiro fala.