
#OpenAIInferenceCostTest
About OpenAIInferenceCostTest
OpenAI shared early tests of Jalapeño, its first in-house inference chip. It says it delivers 1.5x-1.9x more throughput per watt on open models and cuts end-to-end latency by 1.7x-3.6x. Deployment is planned by year-end, with two successors in development. It also says GPT-5.6 Sol used 54% fewer output tokens than a leading rival on coding tasks. After $6.7B in Q2 revenue and a $12.3B operating loss, can these company-tested gains lower inference costs, narrow losses and support its IPO valuatio
Populært
Siste
OpenAIInferenceCostTest Populære innlegg
#OpenAIQ2LossWidens
Raskt voksende selskaper blir ikke alltid gode virksomheter.
OpenAI fortsetter å vokse, men tapene øker også. Anthropic tar en annen vei ved å vise tidlige tegn på lønnsomhet. Inntekter gir overskrifter.
Bærekraftig økonomi avgjør vanligvis hvem som vinner maratonet. Hva betyr mest for deg i dag, vekst eller lønnsomhet?

NETTOPP INN: Sannsynligheten for at antropisk børsnotering overstiger SpaceXs $SPCX verdistigning på 1,77 billioner dollar.

OpenAI sier at deres nye Jalapeño AI-brikke kan redusere kostnadene ved å kjøre kunstig intelligens betydelig, men Jim Cramer (@jimcramer) er fortsatt skeptisk til at den utgjør en alvorlig trussel mot Nvidia ($NVDA).
Jalapeño er OpenAIs første spesialtilpassede inferensbrikke og ble utviklet sammen med Broadcom ($AVGO). Selskapet planlegger å begynne å ta det i bruk internt innen utgangen av 2026, med forventet økt produksjon ytterligere i 2027.
OpenAI-sjef Sam Altman (@sama) beskrev brikken enkelt og greit: «Vi lagde en brikke, og den er rask.» Selskapet jobber allerede med andre- og tredjegenerasjonsversjoner.
OpenAI sier at Jalapeño kan levere både høyere gjennomstrømning og lavere forsinkelse, en kombinasjon som er vanskelig å oppnå. Deres interne benchmarks viste bedre ytelse per watt enn Nvidias GB200- og GB300-systemer på tvers av flere store AI-modeller.
Avhengig av arbeidsmengden hevder OpenAI at Jalapeño leverte omtrent 1,5 til 1,9 ganger mer ytelse per watt og betydelig lavere forsinkelse. Brikken er designet spesielt for inferenstrening snarere enn AI-trening.
OpenAI-maskinvareleder Richard Ho sa at disse effektivitetsgevinstene til slutt kan føre til lavere tokenpriser for kundene etter hvert som brikken skaleres inn i produksjon.
Likevel planlegger ikke OpenAI å erstatte Nvidia helt. Selskapet sa at de vil fortsette å bruke Nvidia-akseleratorer og maskinvare fra andre partnere for både opplæring og inferens.
Cramer avviste ideen om at hver ny AI-brikke representerer en meningsfull Nvidia-utfordrer. Han sa at han jevnlig hører påstander om overlegne brikker, men fortsatt ser «ingen reelle konkurrenter» til Nvidia i stor skala.


OpenAIs Jalapeno er et signal om at AI-industrien går inn i «eie stakken»-æraen.
Playbooken pleide å være å holde deg i lane og fokusere.
Modellselskaper trente modeller. Chip-selskaper laget chips. Dataselskaper samlet inn data.
Den epoken er over.
OpenAI startet som et rent modelllaboratorium. Nå designer de tilpasset silisium og optimaliserer hele systemene rundt sine faktiske arbeidsbelastninger.
Denne uken så vi også @Figure_robot gå inn i datalaget og lansere Index, deres egen datainnsamlingsinnsats som dekker 108 land.
Alle beveger seg opp og ned i bunken.
Noe av det er sannsynligvis for å utdype tynne vollgraver, noe er for å kutte kostnader, noe for å rettferdiggjøre verdsettelser.

OpenAI bygde en tilpasset inferensbrikke (Jalapeño) og gikk fra første RTL til tapeout på 9 måneder.
Da jeg designet og tapet ut komplekse SoC-er, var det normalt 18–24 måneder fra RTL til tapeout. Verifikasjon og fysisk design tok mesteparten av denne timeplanen.
At AI skriver Verilog/VHDL er ganske forventet med alle kodeagentene. Det imponerende var... @OpenAI teamet brukte en intern modell med rask QoR-tilbakemelding og robust verifisering for å optimalisere RTL-en
AI komprimerer virkelig designsyklusen.. Bra for alle. Vi ville sett mer silisium og mer innovasjon. Nå går differensiering over til å sikre TSMC-kapasitet og HBM-allokering..
Flere brikker kan designes.. men færre kan produseres i stor skala.



OpenAI blir seriøs med å eie hele AI-stakken
Jalapeño går endelig fra testing til OpenAIs infrastruktur
> mer AI-arbeid fra hver watt
> høyere gjennomstrømning med lavere latens
> raskere svar på ChatGPT og Codex
dette er bare Gen 1, Gen 2 er allerede under utvikling, mens Gen 3 tar form.
OpenAI har allerede modellene, brukerne og etterspørselen.
Nå bygger den også compute under dem.
det virkelige spørsmålet er hvor langt dette går når Jalapeño begynner å skalere på tvers av infrastrukturen sin.
Hvordan tror du Gen 2 vil se ut?


Siden vi annonserte Jalapeño, vår første spesialtilpassede inferensbrikke, har vi testet den og systemet rundt.
Resultatene viser et stort fremskritt: mer intelligens fra hver watt og raskere respons, noe som gir både høyere gjennomstrømning og lavere latenstid i én arkitektur uten å gå på bekostning av effektivitet.
OpenAIs tidlige Jalapeño-tester peker på et potensielt meningsfullt skifte i inferensøkonomien: 1,5-1,9 ganger mer gjennomstrømning per watt og 1,7-3,6 ganger lavere ende-til-ende-latens på åpne modeller. GPT-5.6 Sol brukte angivelig også 54 % færre output tokens enn en ledende konkurrent på kodingsoppgaver.
Den målte vurderingen er at effektivitetsgevinster kan forbedre enhetsøkonomien, men bedriftstestede referanseverdier er ennå ikke bevis på lavere samlede kostnader. Med 6,7 milliarder dollar i omsetning i andre kvartal mot et driftstap på 12,3 milliarder dollar, vil utrulling i stor skala og arbeidsbelastningsvekst bety mer enn hovedresultatene. Ikke råd, bare analyse.
#OpenAIInferenceCostTest

OpenAIs første spesialtilpassede inferensbrikke leverer høyere gjennomstrømning, lavere latenstid og bedre effektivitet i én arkitektur.
Når det største AI-laboratoriet begynner å designe sitt eget silisium, har inferensøkonomi i stor skala et problem.
Beregningslaget bygges opp på nytt fra bunnen av.
Siden vi annonserte Jalapeño, vår første spesialtilpassede inferensbrikke, har vi testet den og systemet rundt.
Resultatene viser et stort fremskritt: mer intelligens fra hver watt og raskere respons, noe som gir både høyere gjennomstrømning og lavere latenstid i én arkitektur uten å gå på bekostning av effektivitet.

Anthropic snudde AI-rasen på hodet.
OpenAI: 6,7 milliarder dollar i inntekter i andre kvartal, +18 %
Antropisk: 11,6 milliarder dollar, mer enn 2 ganger år-til-år
Og det ville er at Anthropic allerede er lønnsomt justert.
Enterprise er i ferd med å bli den virkelige AI-slagmarken.
Hvis denne trenden fortsetter, kommer verdivurderingsdebatten til å bli VELDIG interessant.
OpenAI kan fortsatt ha det større navnet.
Men hvis Anthropic fortsetter å øke inntektene så raskt, kan investorer begynne å stille et svært ubehagelig spørsmål
Hvorfor skal markedet verdsette det langsommere voksende selskapet høyere?


🔥 $OPENAI har nettopp publisert en resultatrapport som gjorde markedet nervøst.
Inntektene i andre kvartal var 6,7 milliarder dollar, opp 18 % fra 5,7 milliarder i første kvartal. Høres greit ut, ikke sant? Men problemet er – kvartal-for-kvartal vekstraten ble halvert, ned fra 35,7 % i første kvartal. Enda mer smertefullt var driftsunderskuddene fra 9,3 milliarder dollar til 12,3 milliarder. Langsommere inntjeningsvekst, raskere tap.#BTCRallyOrSqueeze #AnthropicIPONears #PopMartEarningsWatch
