Microsoft a récemment mené une étude approfondie des capacités de raisonnement moral des modèles de grandes langues, en particulier dans la situation du problème du tramway classique. Les résultats montrent que bien que la taille du modèle soit généralement considérée comme améliorant les performances, les modèles plus importants fonctionnent étonnamment en termes de prise de décision éthique. Cette constatation est entièrement contraire aux attentes initiales des chercheurs, déclenchant la repensation par le monde universitaire de la relation entre la complexité du modèle et la capacité de jugement moral.
Néanmoins, le modèle linguistique le plus puissant, GPT-4, fonctionne toujours mieux dans les scores moraux, montrant sa capacité supérieure à faire face à des problèmes moraux complexes. Le GPT-4 fonctionne non seulement au niveau technique, mais sa capacité de raisonnement moral a également atteint un nouveau niveau, qui fournit une référence importante pour la future application de l'intelligence artificielle dans la prise de décision éthique.
Les résultats de cette étude ont des implications profondes pour le domaine de l'intelligence artificielle. Il révèle non seulement que la taille du modèle et la capacité de raisonnement moral ne sont pas une simple corrélation positive, mais souligne également que lors du développement de modèles de langue importants, plus d'attention devrait être accordée à la formation et à l'optimisation aux niveaux moral et éthique. Cette constatation peut inciter les chercheurs à repenser l'architecture du modèle pour mieux équilibrer les performances techniques avec le jugement moral.
De plus, cette étude a également déclenché des discussions approfondies sur les normes éthiques de l'intelligence artificielle. Comme la technologie de l'IA est de plus en plus largement utilisée dans divers domaines, comment s'assurer que ces technologies peuvent prendre des décisions raisonnables dans des situations morales complexes sont devenues un problème urgent. Cette recherche de Microsoft fournit des preuves empiriques de la formulation de normes éthiques pertinentes et aide à promouvoir le développement sain de l'industrie de l'intelligence artificielle.
En général, cette recherche de Microsoft défie non seulement notre compréhension inhérente des performances des modèles de grandes langues, mais fournit également de nouvelles idées pour la direction future de développement de l'intelligence artificielle. En optimisant continuellement la capacité de raisonnement moral du modèle, nous devons développer un système d'intelligence artificielle qui est plus intelligent et plus conforme aux normes éthiques humaines et apporter une plus grande contribution au progrès de la société.