O Senhor dos Anéis, OpenAI e ETH Workshop: Por que Vitalik não se tornou o Sam Altman que foi expulso?

Autor original: 0xAlpha

Editor Original: GaryMa Wu disse blockchain

Recentemente, assistimos ao “filme” “Master of AI”, uma trilogia de dramas produzida por grandes capitalistas de risco e gigantes da tecnologia do Vale do Silício com um investimento de mais de US$ 10 bilhões, incluindo três episódios de “Parceiros em IA”, “Dois Caminhos” e “O Retorno do Rei”. Muitos aplaudiram o regresso de Sam Altman ao “trono”, com alguns até a compará-lo ao regresso de Jobs à Apple.

No entanto, os dois simplesmente não são comparáveis. “Mestre da IA” é uma história completamente diferente, conta uma batalha entre dois caminhos: buscar o lucro ou não perseguir? Esse é o cerne da questão!

Vamos revisitar o início de O Senhor dos Anéis. Quando Gandalf vê o Senhor dos Anéis na casa do Tio Bilbo, ele rapidamente percebe que uma coisa tão poderosa não pode ser manipulada por pessoas comuns. Apenas algumas pessoas santas e sobrenaturais, como Frodo, podem lidar com isso. É por isso que Frodo é o coração da equipe – ele é o único que pode carregar algo tão poderoso sem ser engolido por ele. Nem Gandalf, nem ALGO, nem Legolas, nem Gimli, só Frodo. A chave para toda a história do Senhor dos Anéis é a natureza única de Frodo.

*Nota: Sam Altman é o CEO da OpenAI, Ilya Sutskever é um dos cofundadores da OpenAI (ele discordou de Sam Altman sobre a escolha do caminho da OpenAI e acabou sendo marginalizado), e Greg Brockman é o CTO da OpenAI. Reid Hoffman é um conhecido empreendedor e capitalista de risco que foi cofundador do LinkedIn. Jessica Livingston é uma das sócias fundadoras da Y Combinator, uma empresa de capital de risco. Peter Thiel é um conhecido empresário, capitalista de risco e cofundador da PayPal. *

Agora, volte para o início do Master of AI. Em 2015, Sam Altman, Greg Brockman, Reid Hoffman, Jessica Livingston, Peter Thiel, Elon Musk e várias empresas de tecnologia anunciaram a formação da OpenAI e se comprometeram a injetar mais de US$ 1 bilhão no fundo de capital de risco. Este é um grupo dos cérebros mais inteligentes do mundo, quase tão inteligentes quanto Gandalf. Eles também sabem que estão construindo algo poderoso, como o Senhor dos Anéis, que não deve ser possuído e controlado por ninguém que persiga seus próprios interesses. Deve ser dominado por pessoas altruístas, como Frodo. Assim, em vez de lançar uma empresa com fins lucrativos, eles estabeleceram a OpenAI como uma organização de pesquisa sem fins lucrativos, presumivelmente sem fins lucrativos.

A noção de que “uma coisa tão poderosa não deve ser controlada por uma empresa orientada para o lucro” pode não ter sido o consenso dos cofundadores da OpenAI na época de sua fundação. Esta é provavelmente a razão pela qual esses fundadores se uniram quando decidiram começar a OpenAI em primeiro lugar. Antes da fundação da OpenAI, o Google já havia demonstrado o potencial para exercer esse superpoder. Parece que a OpenAI é uma “coalizão de protetores” composta por esses visionários “protetores da humanidade” para combater o monstro da IA em que o Google está se transformando, uma empresa que busca lucro. Ilya pode ter sido persuadida a deixar o Google para liderar a pesquisa e desenvolvimento da OpenAI por causa de sua crença nessa filosofia, porque o movimento de Ilya não teria sentido de qualquer outro ponto de vista. Em 2015, ninguém foi capaz de fornecer uma plataforma de desenvolvimento de IA melhor do que o Google. Embora os promotores da OpenAI sejam todos magnatas do Vale do Silício, nenhum deles é praticante de IA (eles não codificam). Sem mencionar a desvantagem financeira: a OpenAI claramente não é tão bem financiada quanto o Google. Os fundadores prometeram US$ 1 bilhão, mas apenas cerca de 10% cumpriram (US$ 100 milhões de Elon Musk ou US$ 30 milhões de outros doadores). Do ponto de vista do retorno financeiro pessoal, uma organização sem fins lucrativos não pode fornecer à Ilya uma remuneração financeira melhor do que trabalhar no Google. A única coisa que pode convencer Ilya a deixar o Google para liderar a OpenAI é essa filosofia. As ideias filosóficas de Ilya não são tão conhecidas do público como o seu orientador de doutoramento. Geoffrey Hinton deixou o Google em 2023 devido à desilusão com a política da era Ronald Reagan e à insatisfação com o financiamento militar da IA.

Em suma, os fundadores queriam que a OpenAI fosse o seu Frodo, carregando o “Senhor dos Anéis” para eles.

No entanto, a vida na ficção científica ou no cinema é muito mais fácil. No filme, a solução é muito simples. Tolkien simplesmente criou o personagem Frodo, um sujeito altruísta que pode resistir à tentação do Senhor dos Anéis, protegido de ataques físicos pelo “Senhor dos Anéis”.

Para tornar o personagem Frodo mais crível e natural, Tolkien até criou uma raça ingênua, gentil e altruísta – os Hobbits. Como o hobbit ereto e de bom coração, Frodo tornou-se naturalmente o escolhido, capaz de resistir a tentações que nem mesmo um sábio Gandalf poderia resistir. Se a natureza de Frodo é atribuída às características raciais dos hobbits, então a solução de Tolkien para o maior problema do “Senhor dos Anéis” é essencialmente racista, fixando as esperanças da humanidade no caráter nobre de uma determinada raça. Como não racista, embora eu possa desfrutar da trama de super-heróis (ou raças de super-heróis) resolvendo problemas em romances ou filmes, não posso ser tão ingênuo ao pensar que o mundo real é tão simples quanto os filmes. No mundo real, não acredito nessa solução.

O mundo real é muito mais complicado. No caso da OpenAI, a maioria dos modelos construídos pela OpenAI (especialmente a família GPT) são monstros de poder de computação, contando com chips movidos a eletricidade (principalmente GPUs). No mundo capitalista, isso significa que ele está precisando muito de capital. Portanto, sem a bênção do capital, o modelo da OpenAI não teria se desenvolvido para o que é hoje. Nesse sentido, Sam Altman é uma figura-chave como centro de recursos da empresa. Graças às conexões de Sam no Vale do Silício, a OpenAI tem forte apoio de investidores e fornecedores de hardware.

Há uma razão para os recursos que fluem para a OpenAI impulsionarem os modelos – os lucros. Espere, a OpenAI não é uma organização sem fins lucrativos? Bem, tecnicamente sim, mas algo mudou no fundo. Embora mantendo sua estrutura nominalmente sem fins lucrativos, a OpenAI está se transformando mais em uma entidade com fins lucrativos. Isso aconteceu em 2019, quando foi lançada a OpenAI Global LLC, uma subsidiária com fins lucrativos criada para atrair legalmente fundos de risco e dar ações aos funcionários. Este movimento inteligente alinha a OpenAI com os interesses dos investidores (não doadores desta vez, então provavelmente em busca de lucro). Através desta consistência, a OpenAI pode crescer com a bênção do capital. A OpenAI Global LLC teve um impacto profundo no crescimento da OpenAI, especificamente ligada à Microsoft, garantindo um investimento de US$ 1 bilhão (e depois bilhões) e executando o monstro de computação da OpenAI na plataforma de supercomputação baseada em Azure da Microsoft. Todos sabemos que um modelo de IA bem-sucedido requer três coisas: algoritmos, dados e poder de computação. A OpenAI reúne os maiores especialistas em IA do mundo para os algoritmos de seus modelos (um lembrete: isso também depende de capital, e a equipe de profissionais da OpenAI não é barata). Os dados do ChatGPT vêm principalmente da internet aberta, então não é um gargalo. Poder de computação construído em chips e eletricidade é um projeto caro. Em resumo, metade desses três elementos são fornecidos principalmente pela estrutura de ganhos da OpenAI Global LLC. Sem esse fornecimento constante de combustível, a OpenAI não teria sido capaz de chegar até aqui sem doações sozinhas.

Mas isso tem um custo. É quase impossível ser abençoado pelo capital mantendo a independência. O que agora se designa por quadro sem fins lucrativos é mais nominal do que substantivo.

Há muitos indícios de que a rivalidade entre Ilya e Sam é precisamente sobre essa escolha de caminho: llya parece estar tentando impedir que a OpenAI se desvie da direção que eles originalmente definiram.

Há também uma teoria de que Sam cometeu um erro no chamado evento de fuga do modelo Q, que levou a este golpe fracassado. Mas não acredito que o conselho de administração da OpenAI demita um CEO muito bem-sucedido por errar em uma questão específica. Este chamado erro na quebra do modelo Q, se existir, é, na melhor das hipóteses, um gatilho.

O verdadeiro problema com o OpenAI pode ser que ele se desviou de seu caminho original. Em 2018, Elon Musk se separou de Sam pelo mesmo motivo. E parece que, em 2021, o mesmo motivo levou um grupo de ex-membros a deixar a OpenAI para começar a Anthropic. Além disso, na época do episódio, a carta anônima de Elon Musk postada no Twitter também apontava para o problema.

Para lucrar ou não lucrar, a pergunta parece encontrar uma resposta no final de “O Retorno do Rei”: com o retorno de Sam e o exílio de Ilya, a batalha pela estrada acabou. A OpenAI está destinada a ser uma empresa lucrativa de facto (provavelmente ainda com um shell sem fins lucrativos).

Mas não me interpretem mal. Não estou dizendo que Sam é um cara ruim e Ilya é um cara bom. Estou apenas apontando que a OpenAI está em um dilema, que pode ser chamado de dilema da superempresa:

Uma empresa que opera com o objetivo de obter lucro pode ser controlada pelo capital investido nela, o que pode representar alguns perigos, especialmente se a empresa estiver construindo uma ferramenta superpoderosa. E se não operar com o objetivo de obter lucro, pode enfrentar uma falta de recursos, e em um setor intensivo em capital, o que significa que pode não ser capaz de construir um produto.

Na verdade, o nascimento de qualquer ferramenta superpoderosa levanta preocupações semelhantes sobre o controle, não se limitando à esfera corporativa. Veja-se, por exemplo, o recém-lançado filme Oppenheimer. Quando a bomba atómica explodiu com sucesso, Oppenheimer sentiu mais medo do que alegria. Os cientistas da época queriam criar uma organização supranacional para monopolizar as forças nucleares. A ideia é semelhante ao que os fundadores da OpenAI pensavam na época - que algo tão superpoderoso como a bomba atômica não deveria estar nas mãos de uma única organização, ou mesmo do governo dos EUA. Não é apenas uma ideia, é uma ação real. Theodore Hall, físico do Projeto Manhattan, vazou detalhes importantes da criação da bomba atômica para a União Soviética, reconhecendo em uma declaração de 1997 que o “monopólio dos EUA sobre armas nucleares” era “perigoso e deveria ser evitado”. Em outras palavras, Theodore Hall ajudou a descentralizar a tecnologia de bombas nucleares. A maneira de descentralizar a energia nuclear vazando segredos para a URSS era claramente uma prática controversa (os Rosenberg foram até executados pela cadeira elétrica por vazamentos, apesar das evidências de que foram injustiçados), mas isso refletia o consenso dos cientistas da época (incluindo Oppenheimer, o pai da bomba atômica) - uma coisa tão superpoderosa não deveria ser monopolizada! Mas não vou me aprofundar em como lidar com algo super poderoso, porque esse é um tópico muito amplo. Vamos recentrar a nossa atenção na questão das ferramentas superpoderosas controladas por empresas orientadas para o lucro.

Até agora, ainda não mencionamos Vitalik no título do artigo. O que Vitalik tem a ver com OpenAI ou o Senhor dos Anéis?

Isso porque Vitalik e os fundadores da ETH estavam em uma situação muito semelhante.

Em 2014, quando os fundadores do ETH Workshop lançaram o ETH Workshop, eles estavam divididos sobre se a entidade jurídica a ser estabelecida seria uma organização sem fins lucrativos ou uma corporação com fins lucrativos. A escolha final, como a OpenAI na época, foi uma organização sem fins lucrativos, a ETH Foundation. Na época, o desacordo entre os fundadores do ETH Workshop foi provavelmente maior do que entre os fundadores da OpenAI, levando à saída de alguns fundadores. Em contraste, estabelecer a OpenAI como uma organização sem fins lucrativos foi um consenso entre todos os fundadores. O desacordo sobre o caminho da OpenAI veio mais tarde.

Como um outsider, não está claro para mim se o desacordo entre os fundadores da ETH decorre de sua expectativa de que a ETH Workshop seria um “Senhor dos Anéis” superpoderoso e, portanto, não deveria ser controlado por uma entidade orientada para o lucro. Mas não importa. Importante: Embora a ETH Fang tenha se tornado uma coisa poderosa, a ETH Fang Foundation ainda é uma organização sem fins lucrativos até hoje, e não enfrenta um dilema de sim ou não como a OpenAI. Na verdade, a partir de hoje, não importa que a Fundação ETH seja uma organização sem fins lucrativos ou uma empresa com fins lucrativos. Talvez essa questão fosse mais importante quando o ETH foi lançado pela primeira vez, mas esse não é mais o caso hoje. A poderosa ETH Fang em si tem uma vida autônoma própria, e não é controlada pela Fundação ETH Fang. No decorrer de seu desenvolvimento, a Fundação ETH também parece estar enfrentando um problema de financiamento semelhante ao OpenAI. Por exemplo, ouvi Xiao Feng, um dos primeiros doadores da Fundação ETH Fang, reclamar em um seminário que a Fundação ETH Fang era muito pobre para fornecer apoio financeiro adequado aos desenvolvedores. Eu não sei o quão pobre a Fundação ETH realmente é, mas essa restrição financeira não parece ter afetado o desenvolvimento da Fundação ETH. Em contraste, algumas fundações de blockchain bem financiadas não podem crescer em um ecossistema próspero simplesmente queimando dinheiro. Neste mundo, o capital ainda é importante, mas apenas até certo ponto. E no caso da OpenAI, não há capital? Não pode ser!

ETH e inteligência artificial são, naturalmente, tecnologias completamente diferentes. Mas uma coisa é semelhante: o desenvolvimento de ambos depende de um investimento significativo de recursos (ou investimento de capital). (Nota: Desenvolver o código ETH em si pode não exigir muito capital, mas estou me referindo à construção de todo o sistema ETH.) A fim de atrair uma quantidade tão grande de investimento de capital, a OpenAI teve que se desviar de suas intenções originais e silenciosamente se transformar em uma empresa lucrativa de fato. Por outro lado, apesar de atrair muito capital para o sistema, a ETH Fang não é controlada por nenhuma organização com fins lucrativos. Com a bênção do capital e não sob seu controle - é quase um milagre!

Vitalik foi capaz de fazer isso porque Vitalik tinha seu Frodo - Blockchain!

Vamos classificar as tecnologias em duas categorias com base em se elas realmente produzem um produto: uma é tecnologia de produção e a outra é tecnologia de conexão. A inteligência artificial pertence à primeira, enquanto a blockchain pertence à segunda. A IA pode realizar muitas atividades de produção, como ChatGPT gerando texto, Midjourney gerando imagens e robôs produzindo carros nas fábricas não tripuladas da TSL.

Tecnicamente, o blockchain não produz nada. É apenas uma máquina de estado e não pode sequer iniciar quaisquer operações por conta própria. Mas, como uma tecnologia de conectividade, sua importância está em fornecer um paradigma de colaboração humana em larga escala que vai além das empresas tradicionais com fins lucrativos. Essencialmente, uma sociedade anônima é um pacto entre acionistas, credores, conselho de administração e administração. A validade do contrato é que, se uma das partes violar o contrato, a outra parte pode intentar uma ação em tribunal. E a validade desta acusação reside no facto de os seus resultados serem levados a cabo pelo aparelho de Estado (a chamada aplicação da lei). Assim, fundamentalmente, a empresa é uma relação contratual imposta por uma máquina estatal. Mas agora, o blockchain nos traz uma nova forma de contratação que é imposta pela tecnologia. Embora os contratos de blockchain BTC ainda sejam muito específicos funcionalmente (e deliberadamente mantidos assim), os contratos inteligentes da ETH Fang estendem essa nova forma de contratação para ser universal. Basicamente, o ETH Workshop permite que os seres humanos colaborem em escala de uma maneira totalmente nova em muitos campos, ao contrário das empresas orientadas para o lucro do passado. Por exemplo, o DeFi é uma nova forma de as pessoas colaborarem no setor financeiro.

Nesse sentido, o blockchain é uma “super empresa”! É por causa deste paradigma de “super empresa” que a ETH Fang conseguiu crescer para o estado próspero que é hoje, sem ter que enfrentar os problemas corporativos da OpenAI. O blockchain é o Frodo de Vitalik, carregando o “Senhor dos Anéis” sem ser consumido por seu poder.

Então agora você pode ver que Frodo tem sido um personagem chave por trás de todas essas histórias:

• Gandalf teve sorte porque tinha Frodo como amigo no mundo da fantasia.
• Vitalik também tem sorte porque no novo mundo ele tem o seu Frodo – blockchain.
• Ilya e os outros fundadores da OpenAI não tiveram tanta sorte, porque estavam em um mundo antigo onde Frodo não existia.

Link para o artigo original