140 kW Racks

Kris

140 kW Racks

https://engineering.fb.com/2024/10/15/data-infrastructure/metas-open-ai-hardware-vision/

With Catalina we’re introducing the Orv3, a high-power rack (HPR) capable of supporting up to 140kW.

140 kW sind 190 PS. Pro Rack.

Dieser AI-Kram hat ein offensichtliches Effizienzproblem – beim Training. Inferenz ist eine andere Nummer.

Solange Softbank und Freunde da Milliarden buchstäblich verbrennen wollen ist alles schnieke, aber das ist in keinem Finanzmodell darstellbar. Mit Atomkraft noch weniger als mit irgendeiner anderen Form von Energie.