
據外媒報導,人工智慧公司anthropic正考慮將英國晶片新創公司fractile研發的推理晶片整合至其運算基礎架構中,並將其定位為繼nvidia gpu、amazon trainium與google tpu之後的第四大類人工智慧運算資源。目前這些談判仍處於初期階段,anthropic計畫於2027年前完成部署。
fractile的晶片採用一種稱為「存內運算」的非傳統架構,這與當今主流人工智慧加速器晶片所採用的設計思路截然不同。據該公司表示,其晶片在執行最先進的大規模模型時,可實現高達25倍的運算速度提升,同時將成本壓降至現有方案的十分之一。這一性能優勢有望大幅降低大規模模型推理過程中的能源消耗與運算開支。
值得注意的是,fractile此前已獲得前英特爾執行長帕特·蓋爾辛格的投資。蓋爾辛格深厚的半導體產業背景,更令這家新創公司備受關注。作為大規模模型領域的領軍企業,anthropic正積極尋求多元化的運算解決方案,以應對日益增長的推理需求以及nvidia gpu供應緊張的狀況。若雙方合作最終成真,fractile的晶片將可能在anthropic的模型服務中扮演關鍵角色,並有望重塑目前由少數幾大廠商主導的人工智慧晶片市場格局。然而,由於談判仍處於早期階段,技術驗證與大規模部署仍面臨諸多挑戰。