但传家宝里放的东西没用还会干扰选择

所以出现了

将没用的上锁不让进

同一个问题：RNN与LSTM太慢了（串行的）

出现了：

但是这个注意力怎么来的，有两种方法

经过soft-max 得到和为一的矩阵

在乘一个v矩阵（相当于全连接）q扫码器，k二维码，v value 先用q看别人的k，得到注意力再去乘v，在全部加起来

Wq Wk Wv用的是同一个矩阵

总结一下就是这样一个过程：

维度变化：

segmen 是句子编码

最常用的是第一种

embedding两个不同，六中多了一个句子层

# 深度学习 # 自然语言处理 # bert
Logo
开源鸿蒙跨平台开发者社区

开源鸿蒙跨平台开发社区汇聚开发者与厂商，共建“一次开发，多端部署”的开源生态，致力于降低跨端开发门槛，推动万物智联创新。

更多推荐

Flutter 三方库「flutter_platform_alert」的鸿蒙化适配指南

本文介绍 flutter_platform_alert 插件在 OpenHarmony（OHOS）平台的适配与实现，基于华为云码道开发工具及 AtomGit 仓库。插件封装系统原生提示框与提示音功能，支持 Android、iOS、macOS、Windows、Linux 和 OHOS 多平台。文章以 0.9.1 版本为例，详细说明源码准备、OHOS 工程配置、ArkTS 实现及真机运行流程，展示标准

avatar 开源鸿蒙跨平台开发者社区

Flutter 三方库「flutter_ble_peripheral」的鸿蒙化适配指南

本文介绍基于华为云码道开发的 flutter_ble_peripheral 插件在 OpenHarmony（OHOS）平台的适配实践，以 3.1.0 版本为例，涵盖源码准备、OHOS 工程配置、ArkTS 实现及真机运行。通过本地构建并部署至 HUAWEI Mate 60 Pro（OpenHarmony 6.1.1.120），成功实现 BLE 广播、连接、订阅与数据收发功能，验证了插件在鸿蒙设备上

avatar 开源鸿蒙跨平台开发者社区

OpenHarmony 应用首次安装正常，重启后显示 $string:app_name，覆盖安装报 9568289 的排查与解决

最近在 OpenHarmony 开发板【DAYU200】上运行官方示例 ArkTS Demo 时，遇到了一个比较奇怪的问题：应用首次安装、启动完全正常；重启设备后，桌面上的应用名称变成了 $string:app_name；点击应用无法正常启动；再次通过 DevEco Studio 覆盖安装时失败，错误码为 9568289；删除设备上的旧应用后，又可以重新安装，但重启后问题再次出现。从错误信息来看，

avatar 开源鸿蒙跨平台开发者社区