A Microsoft realizou recentemente um estudo aprofundado das capacidades de raciocínio moral de grandes modelos de idiomas, especialmente na situação clássica do problema do bonde. Os resultados mostram que, embora o tamanho do modelo seja geralmente considerado para melhorar o desempenho, modelos maiores têm um desempenho surpreendentemente mal em termos de tomada de decisão ética. Essa descoberta é completamente contrária às expectativas iniciais dos pesquisadores, desencadeando a repensação da relação da relação entre a complexidade do modelo e a capacidade de julgamento moral.
No entanto, o modelo de linguagem mais poderoso, GPT-4, ainda tem melhor desempenho em pontuações morais, mostrando sua capacidade superior de lidar com questões morais complexas. O GPT-4 não apenas tem um bom desempenho no nível técnico, mas sua capacidade de raciocínio moral também atingiu um novo nível, o que fornece uma referência importante para a aplicação futura da inteligência artificial na tomada de decisão ética.
Os resultados deste estudo têm implicações profundas para o campo da inteligência artificial. Ele não apenas revela que o tamanho do modelo e a capacidade de raciocínio moral não são uma correlação positiva simples, mas também enfatiza que, ao desenvolver grandes modelos de linguagem, mais atenção deve ser dada ao treinamento e otimização nos níveis morais e éticos. Essa descoberta pode levar os pesquisadores a redesenhar a arquitetura do modelo para equilibrar melhor o desempenho técnico com o julgamento moral.
Além disso, este estudo também desencadeou extensas discussões sobre os padrões éticos da inteligência artificial. Como a tecnologia de IA é cada vez mais usada em vários campos, como garantir que essas tecnologias possam tomar decisões razoáveis em situações morais complexas se tornaram um problema urgente. Esta pesquisa da Microsoft fornece evidências empíricas para a formulação de padrões éticos relevantes e ajuda a promover o desenvolvimento saudável da indústria de inteligência artificial.
Em geral, esta pesquisa da Microsoft não apenas desafia nossa compreensão inerente ao desempenho de grandes modelos de idiomas, mas também fornece novas idéias para a futura direção de desenvolvimento da inteligência artificial. Ao otimizar continuamente a capacidade de raciocínio moral do modelo, espera -se que desenvolvamos um sistema de inteligência artificial que seja mais inteligente e mais alinhado com os padrões éticos humanos e faça maiores contribuições para o progresso da sociedade.