Facebook的母公司Meta的工程師透露了他們如何使用稱為透明內存卸載(TMO)的軟件解決方案提供免費內存。它現在是Linux內核的一部分,簡而言之,它會自動將數據卸載到其他存儲層(例如三星的CX內存擴展器),這些存儲層比內存成本更低且能效更高。
節省很多;TMO已經在數百萬臺Facebook服務器上運行了一年多,每臺服務器節省了近三分之一的內存。雖然這對于數十甚至數百臺服務器來說可能微不足道,但Facebook的巨大規模帶來了獨特的挑戰。
這個世界上最大的社交網絡擁有近30億月活躍用戶和數百萬臺服務器,分布在全球21個地點。如果每臺服務器平均配備128GB的RAM,則將達到2.56億GB(或256PB)的RAM,以每GB4美元(DDR4ECCRAM)的平均成本計算,內存價值約為10億美元。這是基于Facebook至少擁有200萬臺服務器的假設(Facebook的博客早在2018年7月就引用了“數百萬臺服務器”),實際數字可能要高得多。
從事TMO工作的團隊提供的數據顯示,內存成本占Meta服務器材料清單的三分之一,壓縮RAM和SSD占比不到11%。更令人擔憂的是,自Facebook推出第一代服務器(目前是第四代)以來,RAM的成本負擔(占整個基礎設施的百分比)翻了一番還多。
采用TMO確實有一些缺點。最明顯的是性能下降。但在功耗和內存節省方面的收益遠遠超過了劣勢,未來的迭代結合硬件改進(例如更快的SSD或CXL驅動器)將提供進一步的緩解。
这里有更多你想看的
|