Relação homem-máquina na era dos grandes modelos: não entre suavemente na era da simbiose com a IA

Fonte original: Geek Park

Autor|Tong Qi, Hu Xiaomeng

Fonte da imagem: Gerado por Unbounded AI

Desde a Revolução Industrial, os seres humanos gradualmente se acostumaram a conviver com máquinas dia e noite por centenas de anos, desde o pânico inicial até a ignorância atual, e agora a mídia se tornou uma extensão do corpo, o telefone celular se tornou a integração da mídia e a máquina se tornou até mesmo parte do corpo humano. A relação entre humanos e máquinas está se tornando cada vez mais íntima, e as máquinas não são mais apenas objetos e coisas mortas. Muitas pessoas esperam que as máquinas tenham inteligência e emoção reais, e então tenham a capacidade de pensar de forma independente e ser autônomas, e ter uma profunda troca emocional com os humanos.

O desenvolvimento de grandes modelos de inteligência artificial (IA) representados pelo ChatGPT não só anuncia a aceleração da era da Inteligência Artificial Geral (AGI), mas também aumenta muito a possibilidade de transformar a imaginação humana em realidade. Como a aplicação da IA na produção diária e na vida melhorou muito a eficiência e a conveniência, a IA generativa está agora desencadeando uma nova rodada de entusiasmo e medo: quando a IA vive e trabalha conosco, ou quando a IA se torna um membro de nossa cidade, a sensação de estar cercado por tecnologia onipresente e amorfa alimenta uma emoção complexa de autoconsciência e medo da inteligência das máquinas.

Numa altura em que a tecnologia há muito está integrada no nosso quotidiano, tornando-se omnipresente e amorfa, afetando o pensamento, a perceção e o comportamento das pessoas como um fantasma, talvez o quotidiano da inteligência artificial não seja um tema novo, mas estamos inconscientemente a entrar na era da simbiose com a IA. Com a onda de grandes modelos representada pelo ChatGPT e o surgimento da IA generativa, o caminho de comercialização da IA foi ainda mais acelerado, fazendo com que tenha um impacto não desprezível no trabalho diário, consumo e entretenimento do público em geral. Isto significa uma mudança revolucionária na forma de interação homem-computador: a interação visual representada por interfaces gráficas de utilizador desenvolveu-se ao extremo, e começou a virar-se para aceder a todas as cenas e interagir com os seres humanos através de interfaces de linguagem natural. Por detrás desta nova revolução tecnológica dos media estão não só questões empresariais, políticas e sociais, mas também questões éticas, de privacidade e de imparcialidade, mas também o abalo fundamental do humanismo que pode ocorrer sob a influência da inteligência artificial e da tomada de decisões algorítmicas.

Um: Quando a inteligência artificial se torna o fundo técnico da vida diária

Quando a IA se torna parte da vida cotidiana, os seres humanos geralmente não sentem a presença da tecnologia, que é a “relação de fundo” dos quatro tipos de relações humano-tecnologia propostas por Don Ihde. A relação contextual [→ humana (IA/mundo)] significa que a IA como fundo tecnológico, como a eletricidade e a Internet, tornou-se parte da vida quotidiana, e as pessoas muitas vezes só têm consciência da sua existência quando a tecnologia falha. É claro que, na vida cotidiana, existem três outros tipos de relações entre humanos e inteligência artificial: relação corporificada [(humano-IA)→mundo)], ou seja, IA como uma extensão funcional dos seres humanos, para reconhecer o mundo e a prática, relação interpretativa [humano→ (AI-mundo)], ou seja, a cognição humana do mundo, é representacional, transformada ou interpretada pela IA, por exemplo, o algoritmo de recomendação influencia e molda os padrões cognitivos humanos em certa medida, e é heterogênea [humano→IA-(mundo)] , com foco na autonomia da tecnologia, ou seja, quando a IA se torna objeto de cognição, o mundo apresentado através da IA torna-se um artefato tecnológico.

Então, quais são os momentos do dia a dia das pessoas contemporâneas que são influenciados pela IA? Esta pergunta pode agora também ser respondida através do diálogo com a inteligência artificial. Quando questionado sobre “um cenário em que uma pessoa moderna interage com a IA inconscientemente em um dia”, a resposta do ChatGPT é bastante abrangente (ver Tabela 1), e até nos lembra que “os hábitos e necessidades de estilo de vida de todos podem ser os mesmos, então a situação real pode ser diferente”. "

Em outras palavras, as ferramentas de interação de linguagem natural alimentadas pela tecnologia de IA generativa já podem nos dizer que a IA está se tornando parte do trabalho, lazer, socialização e até sono, e seu potencial tecnológico abrange todos os aspetos da vida de uma pessoa. Desta forma, do ponto de vista de um espaço de vida maior, a cidade onde os humanos vivem tornou-se uma cidade onde humanos e máquinas coexistem e, talvez no futuro, se torne uma cidade onde humanos e inteligência artificial coexistem. Isso significa que a IA também “vive” na cidade, e assim se torna um membro indispensável da cidade. A partir das respostas do ChatGPT, um possível futuro foi revelado, ou seja, os seres humanos inevitavelmente entraram em um estado de vida profundamente integrado com a inteligência artificial.

No entanto, diante da maré da tecnologia de inteligência artificial, existem dois riscos principais que precisam estar atentos ao lidar com a relação entre pessoas e tecnologia: um é o fracasso da tecnologia, e o outro é a perda de controle da tecnologia.

Em primeiro lugar, como argumenta Don Ede, a tecnologia que penetra na vida quotidiana só é reconhecida quando falha. Uma vez que a tecnologia falhe, trará danos imensuráveis para a sociedade. Após a “7.20 Zhengzhou Heavy Rainstorm” em 2021, um artigo de comentário popular “Zhengzhou após o desastre: Quando uma cidade de repente perdeu a Internet” registrou o fracasso de todos os estilos de vida habituais, como compras on-line, pagamento eletrônico, transporte urbano e disseminação de informações após o desastre das fortes chuvas. Por outras palavras, o funcionamento normal da sociedade humana na era da informação depende dos algoritmos sobrepostos, da eletricidade, das redes e de outras tecnologias de fundo na vida humana como infraestruturas e pré-requisitos. Na era da inteligência artificial, pode ser difícil para a sociedade humana se livrar do risco de fracasso tecnológico.

Em segundo lugar, a vida humana está interligada com a inteligência artificial, mas será que a inteligência artificial estará livre do controlo humano e funcionará por si só? Recentemente, uma equipe de pesquisa da Universidade de Stanford, nos Estados Unidos, divulgou um estudo muito interessante, eles fizeram um jogo sandbox com um modelo de linguagem grande, no qual 25 agentes generativos (Agentes Generativos) “vivem livremente” em um ambiente virtual: esses agentes são como humanos, acordando, fazendo café da manhã e indo trabalhar em um ambiente sandbox interativo todos os dias; Reaja a isso e ajuste seus planos quando apropriado, resultando em comportamentos inesperadamente complexos (como fazer uma festa de Dia dos Namorados). Os usuários podem interagir com esses 25 agentes usando linguagem natural. A equipa de investigação observou que este trabalho revela a arquitetura e os padrões de interação que permitem a simulação do comportamento humano credível através da fusão de grandes modelos de linguagem com agentes de interação por computador.

Quando a inteligência artificial pode interagir livremente num ambiente simulado, também indica, em certa medida, que a inteligência artificial pode estar fora do controlo humano num futuro próximo. Não é difícil imaginar que, com o desenvolvimento da tecnologia, a inteligência artificial e os robôs possam alcançar uma integração mais profunda, e quando isso acontece, os seres humanos ainda podem se tornar os dominantes na vida? Ou, mais especificamente, os seres humanos podem continuar a dominar a ordem da cidade? Neste momento, de que depende a vida humana para manter o funcionamento básico, e que tipo de valores devem ser usados como referência para a vida comum, tornar-se-á uma questão importante que não pode ser evitada sob o ímpeto da nova revolução tecnológica. Neste sentido, o chamado alinhamento de valores da IA com os valores humanos é particularmente importante.

2: Quando a IA entra na era dos grandes modelos

O ponto de partida da sociedade moderna, ou globalização, foi a Era dos Descobrimentos, no final do século 15, quando o avanço do conhecimento e da tecnologia, e o desenvolvimento da tecnologia de navegação, os exploradores europeus foram capazes de explorar e conquistar novos continentes, e a ecologia global e a geopolítica foram viradas de cabeça para baixo. Pode-se dizer que a Era dos Descobrimentos realizou principalmente a expansão da tecnologia para o espaço, e o modo de produção capitalista moderno e a vida moderna da urbanização estão intimamente relacionados a isso.

O desenvolvimento da tecnologia da informação contemporânea realizou a expansão e a apropriação louca do tempo. O nosso tempo e o nosso cérebro estão preenchidos com a enorme quantidade de informação transportada e fornecida pela tecnologia da informação, e a IA generativa continua a acelerar esta sobrecarga de informação. Mas o dia na Terra ainda é de 24 horas, e essa contradição transformou nossas vidas em uma interação entre “tempo social” e “tempo digital”. No futuro, a inteligência artificial tornar-se-á um intermediário, ou continuará a evoluir para um “compressor” do tempo e da civilização. Da computação de máquina à inteligência artificial, tecnologias revolucionárias continuam a surgir, e a civilização humana entrou na “era da tecnologia profunda”.

Os grandes modelos são, sem dúvida, a tendência de desenvolvimento mais importante da tecnologia de IA, e também são a base para a industrialização da IA e a vida diária. Com a explosão do grande modelo GPT da OpenAI, empresas globais de tecnologia e institutos de pesquisa científica estão competindo para serem os primeiros a investir na concorrência de grandes modelos, e a inteligência artificial entrou agora na era dos grandes modelos. Grandes modelos de IA, também conhecidos como modelos de pré-treinamento e modelos de fundação, são modelos treinados com base em grandes quantidades de dados com um grande número de parâmetros, que podem ser adaptados a uma ampla gama de tarefas a jusante. Com base nas ideias de aprendizagem por transferência e nos mais recentes avanços no campo da aprendizagem profunda, estes modelos demonstram surpreendentes capacidades de “emergência” com a ajuda de sistemas informáticos de grande escala e melhoram significativamente o desempenho de várias tarefas a jusante.

O grande modelo marca uma mudança de paradigma no desenvolvimento da tecnologia de IA, e sistemas digitais e inteligentes em vários campos serão construídos sobre o grande modelo no futuro. Entrar na era dos grandes modelos também significa a chegada do estágio de desenvolvimento da industrialização da IA, que fornece um caminho para a IA alcançar a padronização, modularização e automação. Tomando como exemplo o atendimento ao cliente inteligente de IA com o qual as pessoas muitas vezes entram em contato, no passado, a aplicação do atendimento ao cliente inteligente de IA em vários campos, como saúde, comércio eletrônico e finanças, exigia redesenho e treinamento em pesquisa e desenvolvimento todas as vezes, e seu modelo de algoritmo não podia ser reutilizado. Portanto, o alto custo de pesquisa e desenvolvimento de tecnologia e os custos de mão de obra limitam a aplicação em larga escala do atendimento ao cliente inteligente de IA. O modelo grande não precisa reconstruir diferentes modelos de cena para cenários de aplicação, nem precisa começar a treinar modelos de algoritmo novamente, mas só precisa extrair e gerar rapidamente modelos pequenos baseados em cenários, personalizados e personalizados com base em modelos grandes, de modo a realizar a implantação de linha de montagem industrial em diferentes indústrias, campos verticais e cenários funcionais, e ter as vantagens do uso sob demanda e alta eficiência e economia.

Pode-se ver que o grande modelo está se tornando a futura infraestrutura de tecnologia inteligente, reconstruindo o modelo de negócios existente e formando uma tecnologia “modelo como serviço” e ecologia industrial no futuro. No futuro, os negócios digitais serão divididos em grandes empresas de infraestrutura modelo, empresas de aplicativos modelo de pequena escala em indústrias verticais e aplicativos e serviços modelo que são mais adequados para usuários individuais. O estabelecimento e desenvolvimento deste ecossistema irá capacitar mais amplamente as aplicações em várias indústrias, acelerar a transformação digital e o desenvolvimento inteligente de todos os campos da sociedade e melhorar a eficiência de produção de toda a sociedade.

A acumulação e integração de tecnologias como grandes modelos, algoritmos multimodais e generativos representados pelo GPT deram origem à explosão da inteligência artificial generativa (AIGC), e o que o público em geral percebe é principalmente ao nível do “model as a service”, ou seja, texto, imagens, áudio, vídeo e outros serviços de geração de conteúdos para utilizadores públicos. Pode-se dizer que, como um novo tipo de produção e disseminação de conteúdo, a IA generativa pode trazer uma nova rodada de revolução de produção e consumo, e assumir a liderança em mídia, comércio eletrônico, jogos, cinema e televisão e outras indústrias com alto grau de digitalização e alta demanda por conteúdo.

Cronologia do Desenvolvimento da Inteligência Artificial (desenhada por Hu Xiaomeng)

Três: Quando o ChatGPT inicia a revolução da interação linguística

A criação da chamada inteligência artificial geral é considerada uma razão importante para a mudança revolucionária da inteligência artificial, e a versatilidade também se tornou um critério importante para a mudança tecnológica revolucionária. Na verdade, foi apenas com o advento dos computadores que a versatilidade da tecnologia da informação se tornou uma possibilidade. A inteligência artificial também está evoluindo para esse padrão. Xiao Yanghua, professor da Universidade Fudan, destacou que todos os avanços tecnológicos foram liderados por humanos, o que é em si o resultado da inteligência, mas a inteligência artificial geral é uma tecnologia que visa se aproximar ou mesmo superar a inteligência humana, e é uma mudança tecnológica sobre a própria inteligência, e sua importância e perigo são muito maiores do que antes.

Quando os usuários usam IA generativa representada pelo ChatGPT, eles podem inserir um pedaço de texto em linguagem humana na interface do usuário, que pode ser uma frase completa ou parte de uma frase, que é usada para solicitar que o modelo grande gere a próxima parte do texto. Este texto de prompt é a palavra de prompt (). Como gerar conteúdo credível e criativo torna-se uma tarefa que requer testes e ajustes constantes. O processo de prompting contínuo é o processo de interação humana com o grande modelo através da linguagem, o processo de troca de valor e o processo de formação contínua da versão pessoal do GPT, o que finalmente o torna uma ferramenta com atributos mais pessoais e mais alinhada com os valores pessoais.

O processamento de linguagem natural é considerado a “joia da coroa” da inteligência artificial, e permitir que as máquinas entendam a linguagem humana sempre foi a direção de inúmeros cientistas e pesquisadores de inteligência artificial. O advento dos modelos de linguagem representados pelo ChatGPT anunciou que a linguagem não é mais privilégio da civilização humana, e as máquinas também podem induzir, resumir, aplicar e dar exemplos de linguagem humana, e produzi-la através da linguagem humana (em vez da linguagem de máquina representada por 0 e 1). O modo de interação humano-computador também se expandiu da interface de interação gráfica para a interface de interação em linguagem natural.

A linguagem é criativa, mas ao mesmo tempo enganadora. O poder do GPT levou a maioria dos usuários a perceber o conteúdo gerado pelo GPT como confiável e utilizável. A confiança humana na inteligência artificial excede mesmo a confiança no seu próprio julgamento, o que faz com que a inteligência artificial (especialmente a direção de aplicação mais importante da inteligência artificial - recomendação de algoritmos) se torne uma certa existência autoritária. Embora muitos estudiosos tenham mencionado os danos potenciais causados pela autoridade dos algoritmos, com o avanço da tecnologia, a autoridade da tecnologia se tornará cada vez maior na sociedade. Nossas vidas diárias não são apenas computáveis, mas também precisam ser calculadas em altas velocidades e, como resultado, muitas vezes temos que gastar enormes quantidades de energia e poder de computação em troca de tempo para nos adaptarmos à era acelerada trazida pela computação acelerada. A questão é: a inteligência artificial nem sempre é inteligente, os algoritmos nem sempre são confiáveis e, mesmo em alguns cenários críticos, nossas vidas serão forçadas a estar nas mãos de algoritmos?

Da mesma forma, se os seres humanos terão sentimentos íntimos com a inteligência artificial através da comunicação verbal tornou-se um tópico que está constantemente sendo discutido. Na verdade, apaixonar-se por um amante virtual alimentado por IA não é mais uma coisa chocante, e as empresas de tecnologia estão constantemente desenvolvendo produtos correspondentes para os usuários escolherem. O historiador e filósofo Yuval Noah Harari argumenta que, embora não haja evidências de que a IA seja consciente ou senciente, o fato de que a IA pode fazer com que as pessoas se sintam emocionalmente conectadas a elas é suficiente para estabelecer uma relação íntima entre humanos e máquinas – uma intimidade incomum que pode mudar nossa visão de mundo. Além disso, ele fez uma conclusão muito instigante: por causa da incrível capacidade de manipular e gerar linguagem, a IA invadiu o “sistema operacional” da civilização humana.

4: Continue a explorar o valor das pessoas na era da simbiose homem-máquina

"Na era dos algoritmos, o bolo é tão grande que a maioria das pessoas só consegue um pequeno pedaço. "As vidas e os direitos das pessoas comuns estão cada vez mais cedidos à tecnologia, mas os dividendos do desenvolvimento tecnológico ainda estarão altamente concentrados nas mãos de poucos. Na era do ChatGPT, a inteligência artificial tornou-se parte da produtividade, e é previsível que o nosso modo de aprendizagem, modo de pensamento, modo de pergunta e resposta e modo de comportamento serão afetados por um grande modelo semelhante ao GPT. Todos esses cenários serão construídos ou reconstruídos com base no modelo de IA. Por outras palavras, a forma como percecionamos o mundo, a forma como interagimos com as máquinas, vai mudar radicalmente.

O ex-secretário de Estado dos EUA Henry Kissinger acredita que o ChatGPT anuncia uma revolução do conhecimento na qual os humanos precisam pensar e responder ao impacto de longo alcance da inteligência artificial na forma como os humanos existem e sabem, e determinar a relação homem-máquina e o papel moral e estratégico dos humanos. Pode-se dizer que este lembrete é preocupante. Viver na era digital, interagir com a inteligência artificial e seguir os conselhos dos algoritmos é, em certa medida, entregar subjetividade aos algoritmos, que, por mais inteligentes que sejam, estão apenas à procura de conexões entre as coisas. Os indivíduos acreditam cada vez mais nos resultados dados pelos algoritmos, e suas vidas são calculadas, até mesmo calculadas. Isso envolve a interação contínua entre a tomada de decisão autônoma, a subjetividade humana e a tomada de decisão algorítmica e a inteligência de máquina por trás dela.

Não há dúvida de que estamos em um ponto de inflexão na era tecnológica: quando a inteligência artificial se torna o fundo técnico da vida cotidiana, quando a tecnologia de IA entra na era dos grandes modelos, quando o ChatGPT abre a transformação da interação de linguagem… A revolução tecnológica pode ser outra grande onda no campo da vida. Em certa medida, no entanto, todos os filósofos estão nos lembrando de não entrar suavemente na era da simbiose com a IA e de não sermos excessivamente seduzidos pelo otimismo tecnológico e pelo desenvolvimentismo. Quando a superioridade da inteligência humana é substituída pela inteligência artificial, quando os seres humanos dependem de máquinas e algoritmos para determinar todos os aspetos de suas vidas diárias, onde está a singularidade e o futuro dos seres humanos? Os meandros e a multiplicidade do corpo, da mente, da emoção e do comportamento são o que significa ser humano. Na era em que humanos e IA vivem juntos, como continuar a refletir sobre a relação entre humanos e máquinas, entre pessoas e como continuar a proteger a dignidade humana deve ser incluído na discussão e consideração neste momento.