Лиза Су, руководитель компании AMD, считает, что графические процессоры (GPU) сейчас — это отличный выбор для больших языковых моделей, поскольку они хорошо справляются с параллельными вычислениями. Однако у них ограниченные возможности для программирования.
Лиза Су предполагает, что через пять лет GPU уже не будут предпочтительной архитектурой. Она уверена, что начнётся активная разработка специализированных чипов для вычислений, которые придут на смену графическим ускорителям. При этом GPU всё ещё будут использоваться, но популярность других компонентов для искусственного интеллекта будет расти. Эти чипы будут меньше, дешевле и производительнее.
В качестве примера она приводит переход майнеров от вычислений на CPU и GPU к специализированным ASIC при работе с блокчейном биткоина. Также собственные чипы разрабатывают крупные компании, такие как Google и Amazon.
Стоит отметить, что в настоящее время основное направление и темп задаёт компания NVIDIA. Именно от неё зависит скорость технического прогресса в области искусственного интеллекта.
