OpenAI kendi çipini tanıttı
OpenAI, yalnızca model geliştiren bir şirket olmaktan çıkıp kendi donanım altyapısını da tasarlayan tam kapsamlı bir YZ platformuna dönüşme yolunda önemli bir adım attı. Broadcom ile birlikte geliştirilen Jalapeño, şirketin büyük dil modelleri için sıfırdan tasarladığı ilk özel hızlandırıcı oldu. Yeni çip, özellikle büyük dil modellerinin “çıkarım” aşaması için optimize edildi. Yani kullanıcı ChatGPT’ye bir soru sorduğunda, Codex’ten kod yazmasını istediğinde ya da API üzerinden bir YZ hizmeti çalıştırıldığında, modelin yanıt üretme sürecini daha hızlı ve daha verimli hale getirmesi amaçlanıyor. OpenAI’a göre Jalapeño, mevcut en gelişmiş çözümlere kıyasla watt başına performansta belirgin bir avantaj sağlayacak. Nihai performans ölçümleri hâlâ…
