미시간 대학교 (University of Michigan)의 연구원들은 페르세우스 (Perseus)라는 소프트웨어 도구를 개발하여 대형 언어 모델 교육의 에너지 소비를 크게 줄였습니다. 이 획기적인 연구에 따르면 훈련 중에 자원 할당을 최적화함으로써 훈련 속도에 영향을 미치지 않고 에너지 소비를 30% 줄일 수 있습니다. 이 기술은 중요한 경제적 이점뿐만 아니라 환경 보호 원인에 큰 기여를 할 수 있습니다.
미시간 대학교 (University of Michigan)의 새로운 연구에 따르면 대형 언어 모델을 훈련하기위한 노동 절약 방법은 동시에 완료 될 수 있지만 에너지 소비는 30%감소 할 수 있습니다. 이 접근법은 2026 년까지 110 만 주에 전력을 공급하기에 충분한 에너지를 절약 할 수 있습니다.
연구원들은 Perseus라는 소프트웨어 도구를 개발하여 완료하는 데 가장 오랜 시간이 걸리는 일련의 하위 작업 인 중요한 경로를 식별하는 소프트웨어 도구를 개발했습니다. 그런 다음 페르세우스는 비 약정 경로에서 프로세서 속도를 늦추어 동시에 작업을 동시에 수행하여 불필요한 전력 소비를 제거합니다.
이 팀은 GPT-3, 3 개의 다른 큰 언어 모델 및 컴퓨터 비전 모델을 훈련시켜 페르세우스를 테스트했습니다. 결과는 페르세우스가 동일한 훈련 속도를 유지하면서 AI 훈련의 에너지 소비를 줄일 수 있음을 보여줍니다.
연구원들은이 노동 절약 접근 방식이 인공 지능의 공정한 사용에 큰 의미가 있다고 말합니다. 국가가 대형 모델을 실행하기에 충분한 전력이없는 경우 원격 서비스를 사용해야하거나 작고 덜 정확한 모델 만 실행할 수 있습니다. 이 격차는 다른 지역 사회 간의 격차를 더욱 악화시킬 수 있습니다.
이 연구는 AI 훈련 방법을 최적화함으로써 동일한 훈련 속도를 유지하면서 에너지 소비를 줄일 수 있음을 보여줍니다. 이것은 에너지를 절약하고 탄소 발자국을 줄이는 데 큰 의미가 있습니다.
이 연구는 인공 지능 분야의 에너지 효율 문제에 대한 효과적인 솔루션을 제공하고 인공 지능의보다 지속 가능한 개발을위한 길을 열어 주며, 미래의 인공 지능의 공정성과 포용성에 대한 중요한 보장을 제공합니다. 페르세우스는 광범위한 응용 프로그램 전망을 보유하고 있으며 인공 지능 기술의 발전과 더 넓은 응용 프로그램을 장려 할 것으로 예상됩니다.