Džepni AI akcelerator u obliku USB sticka

Dodavanje umjetne inteligencije vašem računalu nikada nije bilo lakše. Asus je najavio UGen300, inovativnu USB dongle karticu za proširenje koja koristi USB 3.1 Gen 2 standard za komunikaciju. To znači da vam nisu potrebni slobodni PCIe utori niti pristup unutrašnjosti kućišta da biste je instalirali. Uređaj je opremljen snažnom Hailo 10H neuronskom procesorskom jedinicom (NPU) koja postiže performanse od 40 TOPS (u INT4 operacijama).

Jedna od najvećih prednosti uređaja je njegova energetska učinkovitost, s tipičnom potrošnjom od samo 2,5 vata, što je praktički zanemarivo. Unutar sticka nalazi se i 8 GB LPDDR4 namjenske sistemske memorije. Iako to neće biti dovoljno za najzahtjevnije profesionalne modele, kojima je ponekad potrebno više od 100 GB sistemske memorije, više je nego dovoljno za pokretanje više od 100 unaprijed sastavljenih modela koje Asus nudi u svojoj biblioteci.

UGen300 je vrlo fleksibilan, podržava i x86 i ARM platforme, kao i Windows, Linux i Android operativne sustave. Kompatibilan je s vodećim okvirima kao što su TensorFlow, PyTorch i ONNX. Iako Asus još nije otkrio službenu cijenu, očekuje se da će uređaj koštati između 140 i 190 eura. To je isplativ način produljenja vijeka trajanja postojećih sustava koji nisu opremljeni najnovijim procesorima s podrškom za Copilot+.