Akshay Sehgal
2020-11-28 22:54:12
假设你(10,4)是一个不代表10个长度序列的矩阵（你将需要一个LSTM）或一个图像（你将需要一个2D CNN），那么你可以简单地flatten()将输入矩阵传递给下几个稠密层，如以下。
from tensorflow.keras import layers, Model
inp = layers.Input((10,4)) #none,10,4
x = layers.Flatten()(inp) #none,40
x = layers.Dense(256)(x) #none,256
out = layers.Dense(3)(x) #none,3
model = Model(inp, out)
model.summary()
Layer (type) Output Shape Param #
=================================================================
input_43 (InputLayer) [(None, 10, 4)] 0
_________________________________________________________________
flatten_1 (Flatten) (None, 40) 0
_________________________________________________________________
dense_82 (Dense) (None, 256) 10496
_________________________________________________________________
dense_83 (Dense) (None, 3) 771
=================================================================
Total params: 11,267
Trainable params: 11,267
Non-trainable params: 0
热门帖子
热门github
1
2
3
5
6
7
8
11
13
14
15
Mamba is a new state space model architecture showing promising performance on information-dense data such as language modeling, where previous subquadratic models fall short of Transformers. It is based on the line of progress on structured state space models, with an efficient hardware-aware design and implementation in the spirit of FlashAttention.
(翻译：Mamba 是一种新的状态空间模型架构，在信息密集型数据（例如语言建模）上显示出良好的性能，而之前的二次模型在 Transformers 方面存在不足。它基于结构化状态空间模型的进展，并本着FlashAttention的精神进行高效的硬件感知设计和实现。)
我尝试了此操作，但是由于某种原因它对我不起作用。
data.shapeTensorShape（[10，4]）x = tf.keras.layers.Flatten()(data)x = tf.keras.layers.Dense(256)(x)x = tf.keras.layers.Dense(3)(x)x.shapeTensorShape（[10，4]）它确实有效，我不好。显然Flatten（）层对矩阵没有任何作用，因为它期望第一个维度为批处理大小。如果我使用model.fit（data），它将在内部添加批次大小作为维度（我认为），并按照您的描述工作。