Новый чип использует искусственный интеллект для сокращения энергопотребления больших языковых моделей на 50%

  • Пользователь Алексей Коровин опубликовал
  • 30 мая 2025 г., 17:08:38 MSK
  • 0 комментариев
  • 83 просмотра
Исследователи разработали более эффективный чип в качестве противоядия от огромного количества электроэнергии, потребляемой приложениями искусственного интеллекта с большими языковыми моделями, такими как Gemini и GPT-4.

Исследователи инженерного колледжа Университета штата Орегон разработали более эффективный чип в качестве противоядия от огромного количества электроэнергии, потребляемой приложениями искусственного интеллекта с большим количеством языковых моделей, такими как Gemini и GPT-4.

"Мы разработали и изготовили новый чип, который потребляет вдвое меньше энергии по сравнению с традиционными конструкциями", - сказал докторант Рамин Джавади, который вместе с Теджасви Анандом, доцентом электротехники, представил технологию на недавней конференции IEEE Custom Integrated Circuits в Бостоне.

"Проблема в том, что энергия, необходимая для передачи одного бита, не уменьшается с той же скоростью, с какой увеличивается потребность в скорости передачи данных", - сказал Ананд, который руководит лабораторией схем и систем смешанных сигналов в OSU. "Вот что заставляет центры обработки данных потреблять так много энергии".

По словам Джавади, сам новый чип основан на принципах искусственного интеллекта, которые снижают потребление электроэнергии для обработки сигналов.

"Большие языковые модели должны отправлять и получать огромные объемы данных по проводным каналам связи на основе меди в центрах обработки данных, а это требует значительных затрат энергии", - сказал он. "Одним из решений является разработка более эффективных чипов проводной связи".

Джавади объясняет, что когда данные передаются на высоких скоростях, они повреждаются в приемнике и должны быть очищены. Большинство обычных систем проводной связи используют эквалайзер для выполнения этой задачи, а эквалайзеры сравнительно энергозатратны.

"Мы используем эти принципы искусственного интеллекта на чипе для восстановления данных более разумным и эффективным способом, обучая встроенный классификатор распознавать и исправлять ошибки", - сказал Джавади.

Агентство перспективных исследовательских проектов Министерства обороны, Корпорация по исследованию полупроводников и Центр повсеместной связи поддержали проект, который принес Джавади награду за лучшую студенческую работу на конференции.

Джавади и Ананд работают над следующей итерацией чипа, которая, как они ожидают, приведет к дальнейшему повышению энергоэффективности.

Комментарии

0 комментариев