并不需要过多额外开销。 也许只增加少量内存或不增加。
你理解错了,EdgeAI training用普通的计算机或服务器,需要大量GPU,模型生成后写入嵌入系统运行,嵌入系统
所有跟帖:
•
模型放在那了,从模型计算求解一样是个resource intensive的过程,如果是大模型的话
-bulubulu-
♂
(384 bytes)
()
12/13/2024 postreply
12:25:08
•
模型也是很大的,你去huggingface随便下一个MODEL, 都是几个G
-testmobile-
♀
(0 bytes)
()
12/13/2024 postreply
12:28:59
•
各种优化方法 模型会越来越小
-小昭mm-
♀
(0 bytes)
()
12/13/2024 postreply
20:01:15