Состоялась презентация ИИ-ускорителя Spyre и Telum II от IBM

В Пало-Альто состоялась конференция Hot Chips 2024, на которой IBM представила новый процессор и ускоритель для ИИ. Инновационные продукты были разработаны в основном для корпоративных приложений и улучшения производительности для задач искусственного интеллекта.

Новый процессор Telum II имеет 8 ядер с частотой 5,5 ГГц и функционирует на базе 5-нанометровой технологии. Процессор оснащен новейшим ИИ-ускорителем и блоком обработки данных (DPU).

Основной целью создания новейшего процессора стало повышение производительности, если сравнивать с предыдущими моделями. Telum II будет иметь в 4 разы высшую вычислительною мощность, которая будет составлять - 24 TOPS. Архитектура ускорителя полностью оптимизирована для работы с разнообразными ИИ-моделями и большими языковыми моделями.

Дополнительно будет реализована поддержка формата данных INT8, а это в значительной степени повлияет на вычислительных мощностей процессора. В целом производительность Telum II сможет составить 192 TOPS, такая продуктивность стала реальностью благодаря более эффективному балансированию нагрузки между 8 AI-ускорителями. 

Новый ускорительно Spyre будет иметь 32 ядра, похожи на те которые будут в Telum II. Для ускорения ИИ-задач возможно будет подключить несколько мощных ускорителей к подсистеме ввода-вывода.

Оба продукты ориентированы в основном на различные сценария использования штучного интеллекта, и выпуск запланирован на 2025 год.