ChatGPT是很好的互动自学工具，特别推荐给紫檀的孩子及家长。这周末我学习了GPU和TPU的不同，

以及GPU是对vector processing优化(因为GPU最早来自graphic特别是游戏的应用)，而TPU则是对tensor processing特别是对matrix processing优化。对AI应用来说GPU的performance比不上TPU。原来GPU当初不是为AI设计的只是后来被做AI的人拿来用，而TPU原来就是为AI量身打造的。然而GPU比TPU要来得flexible，更重要的是美国的AI公司都可以向老黄的公司买GPU来用，而TPU是狗家的东西而狗家只给自己用不卖给别人。

我也学到了除了狗家的Gemini其他的生成型AI模型都是对GPU优化，只有Gemini是对TPU优化。因此其他的模型使用PyTorch的framework，而Gemini使用TensorFlow的framework。

有趣的是ChatGPT承认在一些resource intensive的tasks上，譬如大规模的训练，GPT的performance比不上Gemini，基于Gemini对TPU的优化及其他的原因。

另一点有趣的是在Code Generation上ChatGPT承认狗家的另一个产品，AlphaCode，比GPT来得强，特别是在复杂的问题及算法上。怪不得狗家现在写的code有相当部分是AI产生的。

总之这个周末我从和ChatGPT的互动里获益良多。