Diffusers documentation
LatteTransformer3DModel
LatteTransformer3DModel
Un modèle Diffusion Transformer pour des données 3D issu de Latte.
LatteTransformer3DModel
classe diffusers.LatteTransformer3DModel
< source >( num_attention_heads: int = 16attention_head_dim: int = 88in_channels: int | None = Noneout_channels: int | None = Nonenum_layers: int = 1dropout: float = 0.0cross_attention_dim: int | None = Noneattention_bias: bool = Falsesample_size: int = 64patch_size: int | None = Noneactivation_fn: str = 'geglu'num_embeds_ada_norm: int | None = Nonenorm_type: str = 'layer_norm'norm_elementwise_affine: bool = Truenorm_eps: float = 1e-05caption_channels: int = Nonevideo_length: int = 16 )
forward
< source >( hidden_states: Tensortimestep: typing.Optional[torch.LongTensor] = Noneencoder_hidden_states: typing.Optional[torch.Tensor] = Noneencoder_attention_mask: typing.Optional[torch.Tensor] = Noneenable_temporal_attentions: bool = Truereturn_dict: bool = True )
Paramètres
- hidden_states (
torch.Tensorde forme(batch size, channel, num_frame, height, width)) —hidden_statesd'entrée. - timestep (
torch.LongTensor, facultatif) — Utilisé pour indiquer l'étape de débruitage. Timestep facultatif à appliquer en tant qu'embedding dansAdaLayerNorm. - encoder_hidden_states (
torch.FloatTensorde forme(batch size, sequence len, embed dims), facultatif) — Embeddings conditionnels pour la couche d'attention croisée. S'ils ne sont pas fournis, l'attention croisée se comporte par défaut comme une auto-attention. - encoder_attention_mask (
torch.Tensor, facultatif) — Masque d'attention croisée appliqué auxencoder_hidden_states. Deux formats pris en charge :- Masque
(batcheight, sequence_length)True = conserver, False = supprimer. - Biais
(batcheight, 1, sequence_length)0 = conserver, -10000 = supprimer.
Si
ndim == 2: sera interprété comme un masque, puis converti en un biais cohérent avec le format ci-dessus. Ce biais sera ajouté aux scores d'attention croisée. - Masque
- enable_temporal_attentions —
(
bool, facultatif, valeur par défautTrue) : Indique s'il faut activer les attentions temporelles. - return_dict (
bool, facultatif, par défautTrue) — Indique s'il faut retourner un~models.unet_2d_condition.UNet2DConditionOutputplutôt qu'un simple tuple.
La méthode forward du LatteTransformer3DModel.