TensorFlow 2.10上线:Windows上扩展GPU支持,TF-DF 1.0发布
机器之心报道
TensorFlow 2.10 已发布,还没有更新的小伙伴现在可以更新了。
import tensorflow as tf
embedding = tf.keras.layers.Embedding(
input_dim=10,
output_dim=3,
mask_zero=True) # Infer a correct padding mask.
# Instantiate a Keras multi-head attention (MHA) layer,
# a layer normalization layer, and an `Add` layer object.
mha = tf.keras.layers.MultiHeadAttention(key_dim=4, num_heads=1)
layernorm = tf.keras.layers.LayerNormalization()
add = tf.keras.layers.Add()
# Test input.
x = tf.constant([[1, 2, 3, 4, 5, 0, 0, 0, 0],
[1, 2, 1, 0, 0, 0, 0, 0, 0]])
# The embedding layer sets the mask.
x = embedding(x)
# The MHA layer uses and propagates the mask.
a = mha(query=x, key=x, value=x, use_causal_mask=True)
x = add([x, a]) # The `Add` layer propagates the mask.
x = layernorm(x)
# The mask made it through all layers.
print(x._keras_mask)
> tf.Tensor(
> [[ True True True True True False False False False]
> [ True True True False False False False False False]], shape=(2, > 9), dtype=bool)
掌握「声纹识别技术」:前20小时交给我,后9980小时……
© THE END
转载请联系本公众号获得授权
投稿或寻求报道:content@jiqizhixin.com
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/
关注网络尖刀微信公众号
随时掌握互联网精彩
随时掌握互联网精彩
赞助链接
排名
热点
搜索指数
- 1 跟随总书记打卡博物馆 4957235
- 2 突然发现今年“520”好有意义 4935072
- 3 广东人将挑战暴雨上班30天 4839704
- 4 博物致知 文物有灵 4720491
- 5 农业农村部部长唐仁健被查 4647253
- 6 妻子花380元买裙子被丈夫骂败家 4551534
- 7 徐冬冬怒批贩卖走光照牟利行为 4499964
- 8 2岁宝宝疑因奶奶嚼碎喂食感染梅毒 4366887
- 9 太原一学校用淋巴肉做饭?谣言 4209083
- 10 陈赫录节目血栓甲状腺全通了 4114653