如何优雅的使用pytorch内置torch.nn.CTCLoss的方法

发布网友发布时间：2024-09-27 01:35

共1个回答

热心网友时间：2024-11-18 19:58

CTC 的全称是 Connectionist Temporal Classification，主要用于解决神经网络标签与输出不匹配的问题，其优点是无需强制对齐标签且标签长度可变。在 Pytorch 1.0.x 版本内，内置了 CTCLoss 接口，可以直接使用，但很少有相关资料介绍。以下是如何在 Pytorch 中使用内置的 CTCLoss 方法。
第一步，获取 CTCLoss() 对象。初始化时，需要设置两个参数：blank 和 rection。blank 是空白标签在标签集中的值，默认为 0，需要根据实际标签集进行设置；rection 参数用于指定如何处理输出损失，可选为 'none'、'mean' 或 'sum'，默认为 'mean'。
第二步，在迭代中调用 CTCLoss() 对象计算损失值。调用时需要提供四个参数：log_probs、targets、input_lengths、target_lengths。log_probs 是经过 torch.nn.functional.log_softmax 处理后的模型输出张量，其形状为 (T, N, C)，其中 T 为输出序列长度，N 为 batch 大小，C 为包含空白标签的所有预测字符集的总数。targets 是形状为 (N, S) 或 (sum(target_lengths)) 的张量，其中第一种形式，N 表示 batch 大小，S 为标签长度；第二种形式，表示所有标签长度之和。input_lengths 是形状为 (N) 的张量或元组，其元素值必须等于 T，一般模型输出序列固定后，input_lengths 的元素值相同。target_lengths 是形状为 (N) 的张量或元组，其每一个元素指示每个训练输入序列的标签长度。
在实际应用中，需要注意以下几点：1. 将 log_probs 的 detach() 去掉，否则无法进行反向传播进行训练。2. 空白标签的设定需根据空白符在预测总字符集中的位置进行。3. targets 的形状应设为 (sum(target_lengths))，以适应可变长度的标签。4. 输出序列长度 T 应根据模型需要预测的最长序列长度设计。5. 输出的 log_probs 必须调整维度顺序，确保其形状为 (T, N, C)。