#google-coral
#google-коралловый
Вопрос:
Возможно ли установить несколько двухконтурных TPU на материнскую плату? Мне нужно создать систему, которая поддерживает обнаружение объектов в более чем 100 видеопотоках, доступных с камер в кампусе.
Комментарии:
1. Карты M.2 с двойным краем из ТПУ coral.ai/products/m2-accelerator-dual-edgetpu используются в нестандартных конструкциях. Вы можете разместить адаптер PCIe для слота PCIe x16 и разместить на плате восемь двойных разъемов M.2. Возможно, вы могли бы найти готовый адаптер M.2 для PCIe, который работает, но некоторые из них были протестированы и не работают, потому что они были предназначены для других типов периферийных устройств, и производитель адаптера никогда не предполагал, что они будут использоваться с периферийными процессорами edge. Смотреть coral.ai/news для получения последних продуктов, включая анонсы сторонних производителей.
Ответ №1:
Короткий ответ — да, вы можете, если у вас достаточно поддерживаемых слотов, мощности и хорошей системы охлаждения, но это не так просто!
Сейчас трудно найти дешевое устройство, поддерживающее двухканальный слот pci-e m.2 E, большинство из них 1x, и будет работать только одно ядро edge tpu. Согласно документам, каждый ТПУ может потреблять до 3А энергии и нагреваться выше 100С. Таким образом, для каждого ядра вам нужно подумать о мощности, охлаждении и поддерживаемом слоте, что значительно увеличивает цену всего решения. Двойной ТПУ сейчас стоит 39 долларов.
Для увеличения вычислительной мощности есть плата Asus AI, которая представляет собой карту PCI-e 16x с такими же ядрами Edge TPU — 8x или 16x. Вы получите 32 ВЕРШИНЫ или 64 ВЕРШИНЫ силы. Карта включает в себя охлаждение, а слот PCI-e обычно готов к высокому энергопотреблению (как для графических процессоров). Конечно, вы платите около 3 раз за каждое ядро, но это не включает в себя цену за проблемный слот m.2 и охлаждение. Я думаю, что это все равно лучший вариант.
Вы можете рассмотреть другие устройства с лучшим NPU, например, что-то из семейства nvidia jetson, готовые к использованию устройства с несколькими уровнями цены и мощности (до 32 топов). Также вы можете кластеризовать такие устройства с помощью kubernetes и добавлять столько, сколько вам нужно.
Ответ №2:
Разработан адаптер PCIe, который можно использовать с одним двухконтурным TPU. С помощью этой настройки вы можете установить на материнскую плату столько двойных карт TPU, сколько у вас слотов PCIe. Я бы подписался на выпуск GitHub, чтобы получить информацию о дополнительных опциях. В прошлый раз, когда я разговаривал с создателем адаптера, он упомянул, что работает над адаптером для Raspberry PI, но также планирует создать дополнительный адаптер, который может использовать более одного edge TPU.
Редактировать: существует список ожидания, в котором есть опция для платы адаптера с 4 слотами TPU.