Нобелевская премия этого года присудила награды как в области физики, так и в области химии за достижения в области искусственного интеллекта. Что это значит и какое влияние это окажет? Демис Хассабис высказал свое мнение в эксклюзивном интервью.
В октябре соучредитель и генеральный директор DeepMind Демис Хассабис стал одним из трех со-лауреатов Нобелевской премии по химии для AlphaFold.
Будучи программным обеспечением искусственного интеллекта, AlphaFold решает задачу, поставленную биологическим сообществом 50 лет назад: предсказать структуру каждого известного белка.
На самом деле, AlphaFold, эта революционная модель, является лишь частью достижений DeepMind. За 15 лет с момента своего создания DeepMind стала одной из самых важных лабораторий искусственного интеллекта в мире.
Хотя некоторые бизнес-соображения были добавлены после приобретения Google и слияния с Google Brain, они по-прежнему сосредоточены на наиболее сложных и фундаментальных проблемах в науке и технике и, в конечном итоге, на разработке мощного искусственного интеллекта, который может имитировать или даже заменять человеческие когнитивные способности.
Менее чем через 24 часа после получения Нобелевской премии Демис Хассабис согласился на интервью с репортером Financial Times Мадхумитой Мурджиа и обсудил основные проблемы, которые DeepMind будет решать дальше, роль ИИ в научном прогрессе и свои собственные мысли на пути к AGI. Перспективный прогноз.
Демис Хассабис в штаб-квартире Google DeepMind в Лондоне
Следующий вызов AI4Science
Сопутствующий прогресс AlphaFold 3 в определенной степени демонстрирует следующий шаг DeepMind в области биологии — понимание взаимодействий внутри организмов, в конечном итоге моделирование всего пути и даже построение виртуальной клетки.
Кроме того, усилиями дочерней компании DeepMind Isomorphic они также выходят в область открытия лекарств — разрабатывают новые соединения, находят места связывания и прогнозируют свойства, абсорбцию, токсичность и т. д. этих веществ.
В настоящее время Isomorphic также сотрудничает с Eli Lilly, Novartis и другими компаниями для реализации шести проектов по исследованию и разработке лекарств, которые, как ожидается, добьются клинического прогресса в ближайшие несколько лет. Компания надеется значительно сократить время, необходимое для открытия лекарств. тем самым помогая вылечить некоторые заболевания.
Помимо области биологии, Хассабис также заявил, что его очень воодушевляет работа в области дизайна материалов.
В прошлом году они опубликовали в журнале Nature статью, предлагающую инструмент искусственного интеллекта под названием GNoME для достижения дизайна материалов уровня AlphaFold 1, и обнаружили в общей сложности 2,2 миллиона новых кристаллов на следующем этапе. Им нужно усердно работать, чтобы достичь уровня AlphaFold 2.
Адрес статьи: https://www.nature.com/articles/s41586-023-06735-9.
Что касается математики, AlphaProof и AlphaGeometry в этом году достигли уровня серебряной медали IMO. В ближайшие несколько лет DeepMind попытается использовать возможности искусственного интеллекта для решения важной математической гипотезы.
Что касается энергетики и климата, модель Graphcast, опубликованная в журнале Science в прошлом году, может предсказывать погоду на следующие 10 дней с беспрецедентной точностью в течение одной минуты.
Адрес статьи: https://www.science.org/token/author-tokens/ST-1550/full
Используемая технология может помочь в моделировании климата, что очень важно в таких областях, как борьба с изменением климата и оптимизация энергетических сетей.
Видно, что будущий план DeepMind больше ориентирован на применение и инженерную практику, стремясь к дальнейшему преобразованию технологий в работу, которая может повлиять на реальный мир, а не к чистым фундаментальным исследованиям.
В связи с этим Хассабис сказал, что «сворачивание белка» — это «неожиданная задача», которая не может требовать, чтобы каждая задача содержала такое содержание золота.
Проблема «сворачивания белка» настолько фундаментальна и важна, что она эквивалентна последней теореме Ферма в области биологии. Однако, к сожалению, существует не так много проблем, которые достаточно важны и изучены достаточно долго, чтобы их можно было назвать проблемой. "испытание."
Нобелевская премия станет переломным моментом для ИИ
Нобелевские премии по физике и химии в этом году вручались ученым в области ИИ одна за другой. Интересно, но никто не может сказать, почему комитет по присуждению премии принял такое решение.
Как это понимает Хассабис?
Он сказал, что это очень похоже на «заявление», намеренно выпущенное комитетом, и также станет переломным моментом для ИИ, отметив, что его технологическая зрелость была достаточно признана, чтобы способствовать научным открытиям.
AlphaFold — лучший пример, а награды Хинтона и Хопфилда присуждаются за более базовые и низкоуровневые алгоритмы.
Хассабис выразил надежду, что, оглядываясь назад через 10 лет, AlphaFold ознаменует новый золотой век научных открытий во всех этих различных областях.
Это также поднимает интересный вопрос: с такими инструментами, как AlphaFold, ученым больше не нужно тратить слишком много времени и энергии на предсказания. Означает ли это, что нам следует исследовать новые области? Или даже изменить способ изучения научных концепций?
Следует отметить, что системы искусственного интеллекта представляют собой уникальный новый класс инструментов. Им присущи некоторые присущие функции, поэтому они не вписываются в традиционную классификацию инструментов.
Хотя такие инструменты, как AlphaFold, в настоящее время могут только делать прогнозы, в некотором смысле прогноз также является частью «понимания». Если вы можете предсказывать, это приносит понимание.
Даже если прогнозируемый результат достаточно важен, например, структура белка, он ценен сам по себе.
В более широкой перспективе наука содержит много уровней «абстракции».
Например, вся область химии основана на физике. Вам не нужно понимать все физические принципы, такие как квантовая механика, чтобы говорить об атомных соединениях и понимать химию на ее абстрактном уровне.
Что касается области биологии, мы можем изучать жизнь, но мы до сих пор не знаем, как жизнь развилась или возникла, и мы даже не можем правильно определить понятие «жизнь».
Точно так же ИИ похож на уровень абстракции, который люди, создающие программы и сети, понимают на физическом уровне, но полученные прогнозы подобны возникающим свойствам, которые мы можем предсказать самостоятельно на научном уровне. Проанализируйте эти прогнозы.
AGI приближается, важно понимание
Будь то естественные науки или системы искусственного интеллекта, «понимание» очень важно.
Искусственный интеллект — это инженерная дисциплина, а это означает, что вы должны сначала построить систему, прежде чем сможете изучить и понять объект, хотя явления в естествознании не нужно создавать, они существуют естественным образом;
Хотя системы искусственного интеллекта являются искусственными артефактами, это не означает, что их легче изучать, чем природные явления. Можно даже ожидать, что их будет так же сложно понять, разобрать и деконструировать, как биологические нейронные сети.
Это происходит сейчас, но мы добились определенного прогресса. Например, существует специализированная область под названием «механистическая интерпретация», которая использует нейробиологические концепции и инструменты для анализа «виртуального мозга» системы ИИ.
Хассабис очень оптимистично оценивает объяснимость ИИ и считает, что в ближайшие несколько лет будет достигнут большой прогресс в понимании систем ИИ.
Конечно, ИИ также может научиться объяснять себя. Представьте себе объединение AlphaFold с системой проверки знаний языка, чтобы она могла одновременно предсказывать и объяснять, что делает.
В настоящее время многие ведущие лаборатории сужают рамки своих исследований и сосредотачиваются на масштабировании Трансформеров. Нельзя отрицать, что это хорошее направление и оно станет ключевым компонентом окончательной системы AGI, но DeepMind продолжит упорствовать в исследованиях и инновационных исследованиях.
Фактически, DeepMind на сегодняшний день располагает самой широкой и глубокой исследовательской платформой для изобретения Трансформеров следующего поколения как части своего научного наследия.
Эти исследования необходимы, в частности, для того, чтобы увидеть, как далеко мы можем зайти, и знать, что необходимо исследовать.
Важно как исследовать новые идеи, так и реализовывать их полный потенциал. Если вы не понимаете абсолютных ограничений ваших нынешних идей, вы не будете знать, какие прорывы необходимы.
Хорошим примером является длинное контекстное окно LLM. Контекст токена 2M, созданный Google Gemini 1.5 Pro, — это крутая инновация, которую пока никто не может скопировать.
Лондонский офис Google DeepMind
Только понимая ИИ, мы можем иметь безопасный ИИ
Хассабис и многие технологические лидеры предсказывают, что для реализации AGI потребуется от 5 до 20 лет.
Если мы хотим использовать научные методы для достижения этой цели, это означает больше времени, энергии и размышлений, сосредоточение внимания на инструментах понимания и анализа ИИ, сравнительном анализе и оценке, что требует в 10 раз больше текущих инвестиций.
Этот вклад должен поступать не только от технологических компаний, но и от агентств по безопасности ИИ, научных кругов и гражданского общества. Нам необходимо понять, что делают системы искусственного интеллекта, их ограничения и как контролировать и защищать эти системы.
«Понимание» — важная часть научного метода, но оно отсутствует в чистой инженерии. Инженеры просто наблюдают: работает ли этот подход? Если это не сработает, попробуйте еще раз, это полно проб и ошибок.
Наука – это то, что можно понять до того, как что-то произойдет. В идеале такое понимание означает меньше ошибок. Это важно для искусственного интеллекта и искусственного интеллекта, потому что, применяя такую мощную технологию, хочется совершать как можно меньше ошибок.
Возможно, через несколько лет, когда мы приблизимся к ОИИ, возникнет социальный вопрос: какую ценность мы хотим, чтобы эти системы имели? Какие цели мы должны поставить перед ними?
Это отличается от технических вопросов. Технический аспект фокусируется на том, как поддерживать систему в правильном направлении и двигаться к поставленным целям, но не помогает нам решить, какими должны быть цели.
Для создания безопасной системы AGI необходимо решить как технические, так и социальные вопросы, но Хассабис считает, что последнее может быть труднее достичь.
Ряд вопросов, таких как цели и ценности, будут затрагивать больше ООН и геополитики, и даже социальных наук и философии, и потребуют обширных обсуждений со всеми уровнями правительства, научных кругов и гражданского общества.
Даже если до создания AGI осталось 10 лет, у нас не так много времени для решения этих проблем, поэтому дискуссии в этой области должны начаться уже сейчас, принося голоса из самых разных источников и точек зрения.