边缘AI优势

  • 数据不出设备，隐私好
  • 不需要网络，离线可用
  • 延迟低
  • 没有API费用

现状

  • 7B模型量化后可在旗舰手机运行
  • 端侧AI助手正在成为标配
  • 苹果、华为、高通都在推

局限

  • 模型能力不如云端大模型
  • 复杂任务还是要调云端
  • 占用手机存储