AI Bundle

 
Asa cum am mentionat si la capitolul specificatii, APU-urile AMD beneficiaza de pe urma arhitecturii Unified Memory utilizate de AMD, in care procesorul, placa grafica si NPU-ul au acces in egala masura la memoria RAM. Asta inseamna ca fata de o solutie dedicata (placa grafica NVIDIA sau AMD), in cazul careia discutam despre un pret de peste 10000 EURO pentru un model echipat cu peste 64GB memorie RAM, AMD Ryzen AI Max+ PRO 395 poate incarca modele uriase (pana la 120B) pentru o fractiune din cost.

Astfel, este lesne de inteles de ce utilitarul de instalare AMD Software: Adrenalin Edition ne ofera acum posibilitatea de a instala AMD AI Bundle, o colectie de aplicatii (Amuse, ComfyUI, LMStudio, Ollama si PyTorch), optimizate pentru a rula in conditii optime pe platforme AMD, folosind astfel din plin arhitectura unified memory.

Desigur, aplicatiile nu sunt incluse in kit-ul de instalare, insa, in momentul in care pornim instalarea celei mai recente versiuni de driveri AMD, mai precis AMD Software: Adrenalin Edition 26.1.1, putem opta pentru instalarea AI Bundle, cele 5 aplicatii ocupand un total de 34GB pe unitatea noastra de stocare.

Odata instalate, vom putea lansa Amuse, Ollama sau LMStudio folosind short-cut-urile de pe desktop, toate aplicatiile putand fi de asemenea lansate si din interfata AMD Software, acolo unde gasim de altfel si setarile driverilor, precum si o alta aplicatie AI, mai precis AMD Chat.

Amuse este o interfata pentru generare de imagini sau video-uri in mod text to image sau image to image, care ne permite sa alegem dintre mai multe modele Stable Diffusion optimizate special pentru AMD, acestea putand fi instalate separat. Aplicatia este usor de utilizat si configurat, fiind o buna solutie pentru cei care nu au experienta in acest domeniu. Desigur, exista si limitari, cum ar fi faptul ca Amuse nu suporta Lora’s.

Ollama si LMStudio permit rularea locala a unei game variate de LLM-uri, chiar si modele absolut uriase, cum ar fi OpenAI GPT 120B, fiind o cale rapida si simpla de a experimenta local cu LLM-uri, fara a fi necesare cunostiinte avansate. Desigur, nu acelasi lucru poate fi spus si despre ComfyUI, care permite organizarea avansata a sarcinilor AI, dar nu se adreseaza neaparat incepatorilor, chiar si procesul de instalare fiind ceva mai complicat.