Anthropic analizează un posibil parteneriat cu firma britanică de semiconductori Fractile, în încercarea de a-și reduce dependența de Nvidia și de a îmbunătăți performanța modelelor sale. Compania vizează astfel o aprovizionare mai stabilă cu cipuri dedicate inferenței, dar și reducerea costurilor ridicate asociate soluțiilor actuale din domeniul semiconductorilor, relatează Euronews.com.
De ce vrea Anthropic să reducă dependența de cipurile Nvidia
Potrivit informațiilor apărute în presă, aceste discuții reprezintă un efort strategic al Anthropic, de a-și reduce dependența de Nvidia, îmbunătățind în același timp viteza și eficiența modelelor sale actuale și de generație viitoare.
Pe măsură ce cererea globală pentru capacități de inteligență artificială generativă continuă să crească, costurile hardware necesare pentru rularea acestor sisteme au devenit un obstacol major pentru dezvoltatori.
Anthropic, care a primit investiții de miliarde de dolari atât de la Amazon, cât și de la Google, se bazează în prezent în mare măsură pe unitățile Nvidia H100, alături de procesoare personalizate furnizate de partenerii săi din cloud.
Totuși, prețul ridicat de pe piață și disponibilitatea limitată a acestor cipuri standard din industrie au pus presiune pe marjele de profit, determinând companiile să caute alternative.
Potrivit analiștilor din industrie, un acord cu o firmă specializată precum Fractile ar putea permite companiei Anthropic să exercite un control mai mare asupra infrastructurii sale tehnice.
- Pentagonul încheie contracte cu șapte firme de inteligență artificială, dar nu și cu Anthropic
- Un agent AI a comis „cea mai distructivă acțiune posibilă" într-o companie. A durat 9 secunde, apoi a făcut o confesiune scrisă
- Protest la Google: „Nu vrem ca AI să fie folosit în moduri inumane”. Sute de angajați contestă un acord cu Pentagonul
Cipurile dezvoltate de Fractile, un nou salt în tehnologie
Fondată în 2022 de doctorandul la University of Oxford, Walter Goodwin, compania Fractile a atras atenția prin abordarea sa neconvențională în proiectarea procesoarelor.
Spre deosebire de cipurile standard, care trebuie să transfere constant date între procesor și module separate de memorie, arhitectura „memory-compute fusion” a Fractile păstrează datele direct pe cip, folosind memorie SRAM (static random-access memory), care nu necesită reîmprospătare.
Potrivit start-up-ului britanic Fractile, această metodă poate rula modele lingvistice de mari dimensiuni de până la o sută de ori mai rapid decât hardware-ul existent, reducând în același timp costurile operaționale cu 90%.
Deși aceste performanțe sunt impresionante, tehnologia se află încă în faza de dezvoltare.
Fractile nu a lansat încă un produs comercial, iar cipurile sale specializate nu sunt așteptate să fie pregătite pentru implementare la scară largă în centre de date înainte de 2027.
