Posts

NVIDIA RTX Blackwell architecture

Image
New Features〔Key highlights just from my perspective〕 Streaming Multiprocessors(SM): Throughput per clock cycle for many integer arithmetic operations is doubled compared to NVIDIA Ada GPUs. Tensor cores:  new FP4 capabilities new Second-Generation FP8 Transformer Engine GDDR7 Memory  ultra-low voltage  PAM3 (Pulse Amplitude Modulation) signaling technology higher-speed memory subsystems  Blackwell GB202 GPU 12 Graphics Processing Clusters (GPCs) 96 Texture Processing Clusters (TPCs) 192 Streaming Multiprocessors (SMs) a 512-bit memory interface with sixteen 32-bit memory controllers (GB202) the total L2  cache is 128 MB (RTX5090) the total L2  cache is 96 MB Fig. 1 [GB202 GPU block diagram (full chip)] From NVIDIA RTX Blackwell GPU Architecture , ver. 1.1, NVIDIA Corp., 2025, p. 8. Fig. 2 [The Blackwell GPC] From NVIDIA RTX Blackwell GPU Architecture , ver. 1.1, NVIDIA Corp., 2025, p. 9.  A GPU is made up of 12 GPCs ( as shown in ...

Parallel Computing: Challenges and Memory Models of MPI and OpenMP

Image
If a computer is deficient for numerical simulations, why not connect several computers to work together? With ample funding, more computers should linearly boost the overall efficiency of the simulation, right? It sounds great, but if only things were that simple.

平行計算:MPI 與 OpenMP 的挑戰與記憶體模型

Image
如果一台電腦執行數值模擬不夠用,那就多串聯幾台電腦一起工作。如果資金充裕,那麼更多的電腦將更為提昇數值模擬整體效能,不是嗎?聽起來很不錯呦,但事情如果那麼簡單就好了。

【讀書筆記】我想開始去跑步

Image
短程而言,規律的運動可以改善生活品質。舉例來說,慢跑可以改善失眠,此外能擊退缺乏睡眠導致的黑眼圈和眼週浮腫,那麼買昂貴眼霜的費用就可以省進存摺裡了。長程而言,運動可以保持健康的體態,以壓縮老年生病的時間,老化並不可怕,但被疾病綁架在病榻上,可謂是置身人間煉獄。

【讀書筆記】研究所這條路,我還沒走完。

Image
當政府官員為了因應人才缺口而堆出讓碩博士學位通貨膨脹的高等教育政策時,難道他們都不怕被草人插針嗎?取得碩博士學位的過程可能累積多深的怨念?如人飲水冷暖自知。

【讀書筆記】改變世界的十七個方程式

Image
等不及圖書館收藏,原本預計購買《共病時代》解饞,結果卻帶著《改變世界的十七個方程式》走出書店!?寫到這裡,大概會有人認為我的數學不錯吧!嗯,希望這是發生過的事實。 《改變世界的十七個方程式》書名乍聞之下十分嚇人,原因不外乎「方程式很難」、 「數學很難」和「我不太聰明」......等理由,我亦深深為以上列舉的症狀所苦。中學的數學課,方程式在黑板上飛舞,老師講課口沫橫飛,卻有種置身事外的錯覺。 「喂,等等。這方程式除了解題還有其他用途嗎?」不過,當時並沒有勇氣舉手發問。