#OpenAIInferenceCostTest
About OpenAIInferenceCostTest
OpenAI shared early tests of Jalapeño, its first in-house inference chip. It says it delivers 1.5x-1.9x more throughput per watt on open models and cuts end-to-end latency by 1.7x-3.6x. Deployment is planned by year-end, with two successors in development. It also says GPT-5.6 Sol used 54% fewer output tokens than a leading rival on coding tasks. After $6.7B in Q2 revenue and a $12.3B operating loss, can these company-tested gains lower inference costs, narrow losses and support its IPO valuatio
رائج
الأحدث
OpenAIInferenceCostTest المنشورات الشائعة
#OpenAIQ2LossWidens
الشركات سريعة النمو لا تصبح دائما شركات عظيمة.
يستمر OpenAI في النمو، لكن الخسائر في تزايد أيضا. تسير شركة أنثروبيك في مسار مختلف من خلال إظهار علامات مبكرة على الربحية. الإيرادات تكسب العناوين.
الاقتصاد المستدام عادة ما يحدد من سيفوز بالماراثون. أيهما يهمك أكثر اليوم، النمو أم الربحية؟
وصل للتو: فرص الاكتتاب العام العام لشركات بشرية فوق ارتفاع تقييم سبيس إكس $SPCX 1.77 تريليون دولار.
يبدو أن كل التركيز حول جالابينو يتركز على الأداء مقارنة بنفيديا، لكن السرعة الهندسية وراء ذلك مذهلة حقا. بعض أبرز ما في حديث @hotchipsorg:
1. كان بناء شرائح مخصصة يتطلب جيوشا ضخمة من المهندسين وجداول زمنية متعددة السنوات. انتقل OpenAI من كود RTL الأولي إلى الإصدار التدريجي في 9 أشهر فقط باستخدام XLS (لغة شبيهة ب Rust لكلمة هدية من جوجل) وتصميم مشترك مدفوع بالذكاء الاصطناعي.
2. حلقة الذكاء الاصطناعي أخذت نواة خام بالكاد تعمل (DeepSeek) تعمل بكفاءة 0.31٪ وتحسينها تلقائيا إلى 88.94٪ من الحد الفيزيائي للشريحة في أقل من يومين.
3. الكود الذي يولده الذكاء الاصطناعي كان يعمل بسرعة تصل إلى 1.8 مرة على الكتل الحرجة مقارنة بالتطبيقات التي تم ضبطها يدويا بواسطة مهندسي نواة عالميين.
4. الذكاء الاصطناعي لم يكتب برامج للشريحة فقط. بل كان يحسن دوائر الأجهزة الفيزيائية قبل الخروج على شريط التشرط.
مرة أخرى، هذا ليس صفرا أو صافيا سلبيا بالنسبة ل Nvidia. أنظمة ASIC المخصصة تفتح كفاءات خدمة هائلة لأحمال العمل المتخصصة وستوسع إجمالي حجم الحوسبة في الصناعة بأكملها.
تقول OpenAI إن شريحة Jalapeño AI الجديدة قد تخفض بشكل كبير تكلفة تشغيل الذكاء الاصطناعي، لكن جيم كرامر (@jimcramer) لا يزال متشككا في أنها تشكل تهديدا خطيرا لشركة Nvidia ($NVDA).
جالابينو هو أول شريحة استدلالية مخصصة من OpenAI وقد تم تطويرها بالتعاون مع Broadcom ($AVGO). تخطط الشركة لبدء نشرها داخليا بحلول نهاية عام 2026، مع توقع زيادة الإنتاج أكثر في عام 2027.
وصف الرئيس التنفيذي لشركة OpenAI سام ألتمان (@sama) الشريحة ببساطة قائلا: "لقد صنعنا شريحة وهي سريعة." تعمل الشركة بالفعل على نسخ من الجيل الثاني والثالث.
تقول OpenAI إن جالابينو يمكنها تقديم معدل نقل بيانات أعلى وزمن استجابة أقل، وهو مزيج يصعب تحقيقه. أظهرت اختباراتها الداخلية أداء أفضل لكل واط مقارنة بأنظمة Nvidia GB200 وGB300 عبر عدة نماذج ذكاء اصطناعي كبيرة.
اعتمادا على عبء العمل، تدعي OpenAI أن Jalapeño قدم أداء أعلى بحوالي 1.5 إلى 1.9 ضعف لكل واط مع زمن استجابة أقل بكثير. تم تصميم الشريحة خصيصا للاستدلال وليس للتدريب على الذكاء الاصطناعي.
قال ريتشارد هو، المدير التنفيذي في قسم الأجهزة في OpenAI، إن هذه المكاسب في الكفاءة قد تترجم في النهاية إلى انخفاض أسعار الرموز للعملاء مع توسع الشريحة في الإنتاج.
ومع ذلك، لا تخطط OpenAI لاستبدال Nvidia بالكامل. قالت الشركة إنها ستستمر في استخدام مسرعات Nvidia والأجهزة من شركاء آخرين لكل من التدريب والاستنتاج.
رفض كرامر فكرة أن كل شريحة ذكاء اصطناعي جديدة تمثل منافسا حقيقيا ل Nvidia. قال إنه يسمع باستمرار ادعاءات حول شرائح متفوقة لكنه لا يزال يرى "لا يوجد منافسون حقيقيون" ل Nvidia على نطاق واسع.
يعد جهاز جالابينو من OpenAI إشارة إلى أن صناعة الذكاء الاصطناعي تدخل عصر "امتلكوا المجموعة".
كان الأسلوب الأساسي سابقا أن تبقى في مسارك الفني وتركز.
شركات النماذج دربت عارضات الأزياء. شركات الرقائق كانت تصنع الرقائق. شركات البيانات جمعت البيانات.
تلك الحقبة انتهت.
بدأ OpenAI كمختبر نماذج بحتة. الآن يصممون سيليكون مخصصا ويحسنون الأنظمة الكاملة حول أحمال عملهم الفعلية.
هذا الأسبوع شهدنا أيضا انتقال @Figure_robot إلى طبقة البيانات وأطلقوا Index، جهودهم الخاصة لجمع البيانات التي تغطي 108 دول.
الجميع يتحرك صعودا وهبوطا في الكومة.
وبعضها ربما لتعميق الخنادق الرقيقة، وبعضها لتقليل التكاليف، وبعضها لتبرير التقييمات.
قامت OpenAI ببناء شريحة استدلالية مخصصة (هالبينو) وانتقلت من أول RTL إلى Tapeout خلال 9 أشهر.
عندما صممت وركبت SoCs المعقدة، كان 18–24 شهرا من RTL حتى الشريط الشفاف أمرا طبيعيا. استهلك التحقق والتصميم الفيزيائي معظم ذلك الجدول.
كتابة فيريلوج/VHDL بالذكاء الاصطناعي متوقعة مع جميع وكلاء البرمجة. الجزء المثير للإعجاب هو... @OpenAI استخدم الفريق نموذجا داخليا مع استجابة جودة جودة سريعة وتحقق قوي لتحسين RTL
الذكاء الاصطناعي يضغط دورة التصميم فعلا.. جيد للجميع. سنرى المزيد من السيليكون والمزيد من الابتكار. الآن ينتقل التميز نحو تأمين سعة TSMC وتخصيص HBM..
يمكن تصميم المزيد من الرقائق.. لكن يمكن إنتاج عدد أقل على نطاق واسع.
OpenAI بدأت تأخذ على محمل الجد في امتلاك كامل حزمة الذكاء الاصطناعي
أخيرا تنتقل Jalapeño من الاختبار إلى بنية OpenAI التحتية
> المزيد من العمل على الذكاء الاصطناعي من كل واط
> معدل نقل أعلى مع زمن استجابة أقل
> ردود أسرع على ChatGPT وCodex
هذا فقط الجيل الأول، الجيل الثاني قيد التطوير بالفعل، بينما الجيل الثالث بدأ يتشكل.
OpenAI لديها بالفعل النماذج والمستخدمين والطلب.
الآن هي تبني الحوسبة تحتهم أيضا.
السؤال الحقيقي هو إلى أي مدى سيصل هذا عندما تبدأ هلابينيو في التوسع عبر البنية التحتية لديهم.
كيف تعتقد أن الجيل الثاني سيبدو؟
تشير اختبارات الهالبينيو المبكرة من OpenAI إلى تحول محتمل ذو معنى في اقتصاديات الاستدلال: معدل نقل بيانات أعلى بمقدار 1.5 إلى 1.9 ضعف لكل واط و1.7 إلى 3.6 ضعف زمن استجابة أقل من الطرف إلى الطرف في النماذج المفتوحة. كما أفادت التقارير أن GPT-5.6 Sol استخدم رموز إخراج أقل بنسبة 54٪ مقارنة بمنافس رئيسي في مهام البرمجة.
الحكم المحدد هو أن مكاسب الكفاءة يمكن أن تحسن اقتصاديات الوحدات، لكن المعايير التي اختبرتها الشركات لم تعد بعد دليلا على انخفاض التكاليف الإجمالية. مع إيرادات الربع الثاني بقيمة 6.7 مليار دولار مقابل خسارة تشغيلية قدرها 12.3 مليار دولار، فإن النشر على نطاق واسع ونمو عبء العمل سيهمان أكثر من الأداء الرئيسي. ليست نصائح، بل تحليل.
#OpenAIInferenceCostTest
