Революционный чип запускает GPT уровень ИИ без облаков и задержек

Израильская технологическая компания Hailo анонсировала выпуск первого в мире коммерчески доступного чипа, способного запускать языковые модели генеративного ИИ (GenAI) непосредственно на устройствах, без необходимости подключения к интернету или использования облачных сервисов и дорогостоящих графических процессоров.

Как передает Vesti.az, новый чип Hailo-10H разработан для встраивания в ноутбуки, автомобили, камеры видеонаблюдения, маршрутизаторы и другое оборудование. Он обеспечивает высокую производительность при низком энергопотреблении, полностью сохраняя конфиденциальность данных и устраняя задержки, связанные с обработкой в облаке.

Генеральный директор Hailo Орр Данон отметил, что новый чип по мощности сравним с GPT-3.5, при этом значительно дешевле и проще в интеграции, чем решения от таких лидеров рынка, как NVIDIA. По его словам, Hailo-10H станет важным шагом к демократизации ИИ — технологии, которые станут доступными и автономными.

Hailo-10H уже интегрирован с фирменной средой разработки, которую используют более 10 000 инженеров по всему миру. Компания ранее сотрудничала с Raspberry Pi, HP, Dell и Limelight, встраивая ИИ в камеры, торговое оборудование и устройства с компьютерным зрением.

Особенности нового чипа Hailo-10H:

- Обработка видео, аудио, речи и текста в реальном времени;

- Поддержка голосового управления и персонализированных ИИ-функций;

- Применение в автономных дронах, робототехнике и автомобильных ассистентах.