“数值稳定性是个大问题。当你不断对盒子求交集做逻辑与运算,盒子的体积会指数级缩小。在计算机的浮点数表示下,很快就会变成0,导致梯度消失,模型无法继续学习。”
“这就象是把一张大饼不断对折,折到最后就没法看了。”
“而且,‘超矩形’虽然计算简单,但它比较刚性,难以表达某些复杂的环状逻辑。”。
“真正的终极形态,应该是一个基于‘李群’流形的动态拓扑结构,甚至是某种非交换几何。”
徐辰摸了摸下巴,若有所思。
“不过,对于目前的初级版本来说,只要能跑通就行。先造一把趁手的‘土枪’,能响就行。至于那些高大上的流形结构,等以后算力够了、时间充裕了再慢慢升级。”
打定主意后,徐辰不再尤豫。
他需要在前往德国之前,把这套逻辑验证代码跑通。
“好,开工!”