這次研究顯示,專為 AI 量身打造的加速器 TPU(Tensor Processing Unit)僅占平均耗能 0.24 瓦時的 58%。其他能源消耗來自支援 AI 專用硬體所需的設備,像是主機的 CPU 和記憶體占了 25%,為防故障所設置的備用設備占了 10%,剩下來自資料中心運作如電源轉換和散熱冷卻等。
這次研究是目前市場上,對於擁有熱門 AI 產品的科技公司所發表最新、最透明的資源消耗估算,也讓人們了解實際情況。
AI efficiency is important. Today, Google is sharing a technical paper detailing our comprehensive methodology for measuring the environmental impact of Gemini inference. We estimate that the median Gemini Apps text prompt uses 0.24 watt-hours of energy (equivalent to watching an… pic.twitter.com/86v42LLkrW