Test Dropout

test_dropout.py

import torch
import torch.nn as nn

nn.Dropout(p=0.0).eval()(torch.ones(4, 10))
"""Output
tensor([[1., 1., 1., 1., 1., 1., 1., 1., 1., 1.],
        [1., 1., 1., 1., 1., 1., 1., 1., 1., 1.],
        [1., 1., 1., 1., 1., 1., 1., 1., 1., 1.],
        [1., 1., 1., 1., 1., 1., 1., 1., 1., 1.]])
"""

nn.Dropout(p=1.0)(torch.ones(4, 10))
"""Output
tensor([[0., 0., 0., 0., 0., 0., 0., 0., 0., 0.],
        [0., 0., 0., 0., 0., 0., 0., 0., 0., 0.],
        [0., 0., 0., 0., 0., 0., 0., 0., 0., 0.],
        [0., 0., 0., 0., 0., 0., 0., 0., 0., 0.]])
"""

nn.Dropout(p=0.0)(torch.ones(4, 10))
"""Output
tensor([[1., 1., 1., 1., 1., 1., 1., 1., 1., 1.],
        [1., 1., 1., 1., 1., 1., 1., 1., 1., 1.],
        [1., 1., 1., 1., 1., 1., 1., 1., 1., 1.],
        [1., 1., 1., 1., 1., 1., 1., 1., 1., 1.]])
"""
nn.Dropout(p=0.5)(torch.ones(4, 10))
"""Output
tensor([[2., 2., 0., 0., 0., 2., 0., 2., 2., 2.],
        [0., 0., 2., 0., 2., 0., 0., 2., 2., 2.],
        [2., 0., 2., 2., 0., 0., 2., 2., 2., 2.],
        [2., 2., 2., 2., 0., 2., 0., 2., 2., 2.]])
"""