Na Conferência de Fonte Inteligente de Pequim, grandes modelos de IA voltaram a ser o foco. Muitos líderes nacionais e estrangeiros de IA e vencedores do Prêmio Turing se reuniram para conduzir discussões acaloradas sobre o futuro desenvolvimento e supervisão da IA. O fundador da OpenAI, Sam Altman, o cientista-chefe de IA da Meta, Yann LeCun, e outros líderes do setor expressaram suas opiniões, desencadeando debates acirrados sobre o futuro do modelo GPT, supervisão de IA e outros aspectos. O editor de Downcodes irá levá-lo para revisar os momentos maravilhosos da conferência e interpretar as principais informações por trás deste banquete de IA.
A popularidade do Chat GPT ainda não se dissipou e uma conferência levou a atenção de grandes modelos de IA a novos patamares.
Na recém-realizada Conferência Zhiyuan de Pequim, muitos magnatas lendários da IA se reuniram, incluindo Zhang Bo e Zhang Hongjiang, os líderes domésticos de IA mais avançados, bem como quatro figuras, incluindo Geoffery Hinton, Yann LeCun, Yao Qizhi e Joseph Sifakis. Vencedor do Spirit Award, Sam Altman, fundador da Open AI, PaLM-E e RoBERTa e outros executivos de empresas de IA.
Como cada conferência de Zhiyuan segue uma linha ideológica acadêmica profissional, ela tem uma reputação muito elevada entre os círculos de elite no campo da inteligência artificial no país e no exterior, mas para o público é um pouco fria. Nesta conferência, Sam Altman destacou que, para compreender o desenvolvimento da tecnologia geral de IA, a IA aberta deve promover mudanças na pesquisa em IA.
No entanto, esta afirmação foi contestada por muitos magnatas da IA. Entre eles, Stuart Russell, professor da Universidade da Califórnia, Berkeley, criticou o Chat GPT e o GPT-4 desenvolvidos pela Open AI por não "responderem" às perguntas. Eles não entendem o mundo e não são um passo de desenvolvimento para a IA geral. Yang Likun apontou diretamente que o atual modelo autoregressivo da GPT carece de capacidade de planejamento e raciocínio, e o sistema GPT pode ser abandonado no futuro.
Além dos debates acadêmicos acirrados, como regular a IA atual e a direção de desenvolvimento subsequente da IA também se tornaram o foco da discussão nesta reunião.
Como a IA será regulamentada no futuro?
Desde 2023, embora a IA generativa tenha varrido muitos campos a uma velocidade esmagadora, vários problemas causados pela IA também intensificaram as preocupações do mundo exterior.
No nosso país, a “fraude de IA” tornou-se uma das áreas de preocupação social recente. Há poucos dias, a polícia de Baotou, na Mongólia Interior, relatou um caso de fraude usando IA. O representante legal de uma empresa em Fuzhou, Guo, foi fraudado em 4,3 milhões de yuans em 10 minutos. Segundo relatos, os golpistas usaram tecnologia de mudança de rosto e onomatopeia de IA para fingir ser conhecidos e cometer fraudes. Coincidentemente, Xiao Liu, de Changzhou, província de Jiangsu, foi enganado por um golpista que se passava por seu colega de classe para enviar chamadas de voz e vídeo. Depois de ver a "pessoa real", Xiao Liu acreditou e "emprestou" 6.000 yuans ao golpista.
Fonte: Douyin
Na verdade, a razão por detrás da ocorrência de casos de fraude na IA está relacionada com o rápido desenvolvimento da atual tecnologia de IA e com a redução contínua do limiar para a síntese tecnológica. De uma perspectiva de acompanhamento, se a tecnologia de grandes modelos de IA continuar a fazer avanços, no futuro ela mudará gradualmente da síntese facial para a síntese de corpo inteiro e a tecnologia de síntese 3D, e o efeito de síntese será mais realista.
Nos Estados Unidos, a questão de saber se a IA irá afectar as eleições tornou-se um foco de discussão nos meios de comunicação locais. De acordo com a Associated Press, as sofisticadas ferramentas generativas de IA de hoje podem “clonar” a voz e a imagem de alguém em segundos, criando um grande número de “materiais falsos”. Desde que esteja ligada a um poderoso algoritmo de redes sociais, a IA pode atingir rapidamente o público e espalhar a mensagem, destruindo as eleições numa escala e velocidade sem precedentes.
Outros meios de comunicação nos Estados Unidos prevêem que, como as próximas eleições presidenciais nos Estados Unidos serão realizadas no próximo ano, não está descartado que os dois partidos nos Estados Unidos utilizem a tecnologia de IA para propaganda, arrecadação de fundos e outras atividades. Mais importante ainda, o Chat GPT tem excelente desempenho em recursos de texto. Como resultado, a equipe de um candidato pode gerar um discurso lindamente formulado em apenas alguns segundos.
Com base em várias preocupações sobre IA do mundo exterior, há alguns dias, "AI Godfather" Jeffrey Hinton, CEO da Anthropic Dario Amodai, CEO do Google Deep Mind Demis Hassabis, etc. Mais de 350 executivos e especialistas na área de IA assinaram uma declaração conjunta afirmando que “mitigar o risco de extinção representado pela IA deve tornar-se uma prioridade global, juntamente com outros riscos à escala da sociedade, como epidemias e guerra nuclear”.
Em relação à questão de como regular a IA subsequente, Sam Altman destacou na Conferência de Fonte Inteligente que a IA Aberta está atualmente resolvendo este problema de várias maneiras. Primeiro, já em 26 de maio, a Open AI lançou um programa de incentivo, investindo US$ 1 milhão para solicitar à sociedade soluções eficazes de governança de IA.
Em segundo lugar, Sam Altman acredita que os humanos são incapazes de detectar alguns modelos maliciosos fazendo coisas más. A Open AI está atualmente investindo em algumas direções novas e complementares, na esperança de alcançar avanços. Mas a supervisão escalonável é uma tentativa de usar sistemas de IA para ajudar os humanos a descobrir defeitos em outros sistemas, enquanto a capacidade de explicação é usar o GPT-4 para explicar os neurônios do GPT-2. Embora ainda haja um longo caminho a percorrer, a Open AI acredita em. tecnologia de aprendizado de máquina Pode melhorar ainda mais a explicabilidade da IA. Ao mesmo tempo, Sam Altman também acredita que, no futuro, somente tornando os modelos mais inteligentes e úteis poderemos perceber melhor as vantagens alvo da IA geral e reduzir os riscos da IA.
Finalmente, embora a Open AI não lance uma versão GPT-5 no curto prazo, o mundo poderá ter sistemas de IA mais poderosos nos próximos dez anos, e o mundo precisa de se preparar com antecedência. O trabalho central subsequente da Open AI em grandes modelos de IA ainda está em treinamento e está se preparando para estabelecer um banco de dados global para refletir os valores e preferências globais da IA e compartilhar pesquisas de segurança de IA com o mundo em tempo real.
Além dos esforços próprios da Open AI, Sam Altman também apelou a esforços conjuntos globais para melhorar a supervisão da IA. Por exemplo, Sam Altman destacou que a China tem atualmente alguns dos melhores talentos de IA do mundo, considerando que resolver a dificuldade de alinhar os sistemas de IA requer as melhores mentes de todo o mundo.
Portanto, Sam Altman também espera que os pesquisadores chineses de IA possam contribuir para os riscos de IA no futuro. Tegmark também acredita que atualmente a China tem feito mais na regulação da inteligência artificial, seguida pela Europa e, finalmente, pelos Estados Unidos.
Fonte da imagem: Conferência de Sabedoria
Além disso, Sam Altman também destacou que existem dificuldades na cooperação na supervisão global da IA, mas esta é na verdade uma oportunidade. Embora a IA esteja a unir o mundo, também precisa de introduzir um quadro sistemático e normas de segurança no futuro.
No entanto, tendo em conta a atual intensificação do jogo entre potências globais, os conflitos geopolíticos estão a eclodir em vários pontos e os governos de vários países têm atitudes diferentes em relação à IA generativa, isto tornará difícil a implementação da cooperação global na regulamentação da IA no futuro. Impacto no negócio de mercado das empresas de IA generativa.
A Europa sempre esteve na vanguarda da regulamentação da IA Em maio, a UE estava perto de aprovar legislação sobre a regulamentação da tecnologia de inteligência artificial. Esta também deverá tornar-se a primeira lei abrangente sobre inteligência artificial do mundo e poderá tornar-se um precedente para as economias desenvolvidas. .
A Presidente da Comissão Europeia, Ursula von der Leyen, disse anteriormente numa entrevista à comunicação social: “Queremos que os sistemas de inteligência artificial sejam precisos, fiáveis, seguros e não discriminatórios, independentemente da sua fonte. A IA irá posteriormente retirar-se do mercado da UE. Portanto, como melhorar continuamente o seu modelo de IA generativo de acordo com os ajustes às políticas regulamentares globais não é apenas um problema encontrado pela própria IA aberta, mas também uma questão que toda a indústria precisa de continuar a resolver. preste atenção.
Em suma, a Conferência de Fontes Inteligentes de Pequim apresentou um cenário de desenvolvimento vigoroso no domínio da IA e também destacou a urgência da regulamentação da IA e a importância da cooperação global. No futuro, a forma de equilibrar o desenvolvimento e a supervisão da tecnologia de IA ainda requer esforços conjuntos globais para explorar. O editor de Downcodes continuará prestando atenção às tendências no campo de IA e trazendo relatórios mais interessantes.