This loads the AG News dataset and the set the values for _^_0_^_, _^_1_^_, _^_2_^_, and _^_3_^_.
\n": "\u0db8\u0dd9\u0dbaAG \u0db4\u0dd4\u0dc0\u0dad\u0dca \u0daf\u0dad\u0dca\u0dad \u0dc3\u0db8\u0dd4\u0daf\u0dcf\u0dba \u0db4\u0da7\u0dc0\u0db1 \u0d85\u0dad\u0dbb _^_0_^_, \u0dc3\u0db3\u0dc4\u0dcf \u0d85\u0d9c\u0dba\u0db1\u0dca \u0dc3\u0d9a\u0dc3\u0dcf \u0d87\u0dad, _^_1_^_, _^_2_^_, \u0dc3\u0dc4 _^_3_^_.
\n", "We use character level tokenizer in this experiment. You can switch by setting,
\n_^_0_^_in the configurations dictionary when starting the experiment.
\n": "\u0db8\u0dd9\u0db8\u0d85\u0dad\u0dca\u0dc4\u0daf\u0dcf \u0db6\u0dd0\u0dbd\u0dd3\u0db8\u0dda\u0daf\u0dd3 \u0d85\u0db4\u0dd2 \u0da0\u0dbb\u0dd2\u0dad \u0db8\u0da7\u0dca\u0da7\u0db8\u0dda \u0da7\u0ddd\u0d9a\u0db1\u0dba\u0dd2\u0dc3\u0dbb\u0dca \u0db7\u0dcf\u0dc0\u0dd2\u0dad\u0dcf \u0d9a\u0dbb\u0db8\u0dd4. \u0dc3\u0dd0\u0d9a\u0dc3\u0dd3\u0db8\u0dd9\u0db1\u0dca \u0d94\u0db6\u0da7 \u0db8\u0dcf\u0dbb\u0dd4 \u0dc0\u0dd2\u0dba \u0dc4\u0dd0\u0d9a\u0dd2\u0dba,
\n_^_0_^_\u0d85\u0dad\u0dca\u0dc4\u0daf\u0dcf\u0db6\u0dd0\u0dbd\u0dd3\u0db8 \u0d86\u0dbb\u0db8\u0dca\u0db7 \u0d9a\u0dd2\u0dbb\u0dd3\u0db8\u0dda\u0daf\u0dd3 \u0dc0\u0dd2\u0db1\u0dca\u0dba\u0dcf\u0dc3 \u0d9a\u0dd2\u0dbb\u0dd3\u0db8\u0dda \u0dc1\u0db6\u0dca\u0daf\u0d9a\u0ddd\u0dc2\u0dba\u0dda.
\n", "\n": "
\n", "\n
This has the basic configurations for NLP classification task training. All the properties are configurable.
\n": "\n\u0d91\u0db1\u0dca\u0d91\u0dbd\u0dca\u0db4\u0dd3\u0dc0\u0dbb\u0dca\u0d9c\u0dd3\u0d9a\u0dbb\u0dab \u0d9a\u0dcf\u0dbb\u0dca\u0dba \u0db4\u0dd4\u0dc4\u0dd4\u0dab\u0dd4\u0dc0 \u0dc3\u0db3\u0dc4\u0dcf \u0db8\u0dd6\u0dbd\u0dd2\u0d9a \u0dc0\u0dd2\u0db1\u0dca\u0dba\u0dcf\u0dc3\u0dba\u0db1\u0dca \u0db8\u0dd9\u0dba\u0da7 \u0d87\u0dad. \u0dc3\u0dd2\u0dba\u0dbd\u0dd4\u0db8 \u0d9c\u0dd4\u0dab\u0dcf\u0d82\u0d9c \u0dc0\u0dd2\u0db1\u0dca\u0dba\u0dcf\u0dc3\u0d9c\u0dad \u0d9a\u0dc5 \u0dc4\u0dd0\u0d9a\u0dd2\u0dba.
\n", "Character level tokenizer configuration
\n": "\u0d85\u0d9a\u0dca\u0dc2\u0dbb\u0db8\u0da7\u0dca\u0da7\u0db8\u0dda \u0da7\u0ddd\u0d9a\u0db1\u0dba\u0dd2\u0dc3\u0dbb\u0dca \u0dc0\u0dd2\u0db1\u0dca\u0dba\u0dcf\u0dc3\u0dba
\n", "Get number of tokens
\n": "\u0da7\u0ddd\u0d9a\u0db1\u0d9c\u0dab\u0db1 \u0dbd\u0db6\u0dcf \u0d9c\u0db1\u0dca\u0db1
\n", "Accuracy function
\n": "\u0db1\u0dd2\u0dbb\u0dc0\u0daf\u0dca\u0dba\u0dad\u0dcf\u0dc1\u0dca\u0dbb\u0dd2\u0dad\u0dba
\n", "Add a hook to log module outputs
\n": "\u0db8\u0ddc\u0da9\u0dd2\u0dba\u0dd4\u0dbd\u0db4\u0dca\u0dbb\u0dad\u0dd2\u0daf\u0dcf\u0db1\u0dba\u0db1\u0dca \u0dbd\u0ddc\u0d9c\u0dca \u0d9a\u0dd2\u0dbb\u0dd3\u0db8\u0da7 \u0d9a\u0ddc\u0d9a\u0dca\u0d9a\u0d9a\u0dca \u0d91\u0d9a\u0dca \u0d9a\u0dbb\u0db1\u0dca\u0db1
\n", "Add accuracy as a state module. The name is probably confusing, since it's meant to store states between training and validation for RNNs. This will keep the accuracy metric stats separate for training and validation.
\n": "\u0dbb\u0dcf\u0da2\u0dca\u0dba\u0db8\u0ddc\u0da9\u0dd2\u0dba\u0dd4\u0dbd\u0dba\u0d9a\u0dca \u0dbd\u0dd9\u0dc3 \u0db1\u0dd2\u0dbb\u0dc0\u0daf\u0dca\u0dba\u0dad\u0dcf\u0dc0 \u0d91\u0d9a\u0dca \u0d9a\u0dbb\u0db1\u0dca\u0db1. RNs \u0dc3\u0db3\u0dc4\u0dcf \u0db4\u0dd4\u0dc4\u0dd4\u0dab\u0dd4\u0dc0 \u0dc3\u0dc4 \u0dc0\u0dbd\u0d82\u0d9c\u0dd4 \u0d9a\u0dd2\u0dbb\u0dd3\u0db8 \u0d85\u0dad\u0dbb \u0dbb\u0dcf\u0da2\u0dca\u0dba\u0dba\u0db1\u0dca \u0d9c\u0db6\u0da9\u0dcf \u0d9a\u0dd2\u0dbb\u0dd3\u0db8 \u0d85\u0daf\u0dc4\u0dc3\u0dca \u0d9a\u0dbb\u0db1 \u0db6\u0dd0\u0dc0\u0dd2\u0db1\u0dca \u0db1\u0db8 \u0db6\u0ddc\u0dc4\u0ddd \u0dc0\u0dd2\u0da7 \u0dc0\u0dca\u0dba\u0dcf\u0d9a\u0dd6\u0dbd \u0dc0\u0dda. \u0db8\u0dd9\u0dba \u0db4\u0dd4\u0dc4\u0dd4\u0dab\u0dd4\u0dc0 \u0dc3\u0dc4 \u0dc0\u0dbd\u0d82\u0d9c\u0dd4 \u0d9a\u0dd2\u0dbb\u0dd3\u0db8 \u0dc3\u0db3\u0dc4\u0dcf \u0db1\u0dd2\u0dbb\u0dc0\u0daf\u0dca\u0dba\u0dad\u0dcf \u0db8\u0dd9\u0da7\u0dca\u0dbb\u0dd2\u0d9a\u0dca \u0dc3\u0d82\u0d9b\u0dca\u0dba\u0dcf\u0db1 \u0dc0\u0dd9\u0db1\u0db8 \u0dad\u0db6\u0dcf \u0d9c\u0db1\u0dd3.
\n", "Autoregressive model
\n": "\u0dc3\u0dca\u0dc0\u0dba\u0d82\u0d9a\u0dca\u0dbb\u0dd3\u0dba\u0db4\u0dca\u0dbb\u0dad\u0dd2\u0d9c\u0dcf\u0db8\u0dd3 \u0d86\u0d9a\u0dd8\u0dad\u0dd2\u0dba
\n", "Batch size
\n": "\u0d9a\u0dab\u0dca\u0da9\u0dcf\u0dba\u0db8\u0dca\u0db4\u0dca\u0dbb\u0db8\u0dcf\u0dab\u0dba
\n", "Calculate and log accuracy
\n": "\u0d9c\u0dab\u0db1\u0dba\u0d9a\u0dd2\u0dbb\u0dd3\u0db8 \u0dc3\u0dc4 \u0dbd\u0ddc\u0d9c\u0dca \u0d9a\u0dd2\u0dbb\u0dd3\u0db8\u0dda \u0db1\u0dd2\u0dbb\u0dc0\u0daf\u0dca\u0dba\u0dad\u0dcf\u0dc0\u0dba
\n", "Calculate and log loss
\n": "\u0d9c\u0dab\u0db1\u0dba\u0d9a\u0dd2\u0dbb\u0dd3\u0db8 \u0dc3\u0dc4 \u0dbd\u0ddc\u0d9c\u0dca \u0dc0\u0dd3\u0db8
\n", "Calculate gradients
\n": "\u0d85\u0db1\u0dd4\u0d9a\u0dca\u0dbb\u0db8\u0dd2\u0d9a\u0d9c\u0dab\u0db1\u0dba \u0d9a\u0dbb\u0db1\u0dca\u0db1
\n", "Clear the gradients
\n": "\u0d85\u0db1\u0dd4\u0d9a\u0dca\u0dbb\u0db8\u0dd2\u0d9a\u0d89\u0dc0\u0dad\u0dca
\n", "Clip gradients
\n": "\u0d9a\u0dca\u0dbd\u0dd2\u0db4\u0dca\u0d85\u0db1\u0dd4\u0d9a\u0dca\u0dbb\u0db8\u0dd2\u0d9a
\n", "Collect tokens from training dataset
\n": "\u0db4\u0dd4\u0dc4\u0dd4\u0dab\u0dd4\u0daf\u0dad\u0dca\u0dad \u0d9a\u0da7\u0dca\u0da7\u0dbd\u0dba\u0dd9\u0db1\u0dca \u0da7\u0ddd\u0d9a\u0db1 \u0d91\u0d9a\u0dad\u0dd4 \u0d9a\u0dbb\u0db1\u0dca\u0db1
\n", "Collect tokens from validation dataset
\n": "\u0dc0\u0dbd\u0d82\u0d9c\u0dd4\u0daf\u0dad\u0dca\u0dad \u0d9a\u0da7\u0dca\u0da7\u0dbd\u0dba\u0dd9\u0db1\u0dca \u0da7\u0ddd\u0d9a\u0db1 \u0d91\u0d9a\u0dad\u0dd4 \u0d9a\u0dbb\u0db1\u0dca\u0db1
\n", "Create map-style datasets
\n": "\u0dc3\u0dd2\u0dad\u0dd2\u0dba\u0db8\u0dca \u0d86\u0d9a\u0dcf\u0dbb\u0dba\u0dda \u0daf\u0dad\u0dca\u0dad \u0d9a\u0da7\u0dca\u0da7\u0dbd \u0dc3\u0dcf\u0daf\u0db1\u0dca\u0db1
\n", "Create a counter
\n": "\u0d9a\u0dc0\u0dd4\u0db1\u0dca\u0da7\u0dbb\u0dba\u0d9a\u0dca\u0dc3\u0dcf\u0daf\u0db1\u0dca\u0db1
\n", "Create training data loader
\n": "\u0db4\u0dd4\u0dc4\u0dd4\u0dab\u0dd4\u0daf\u0dad\u0dca\u0dad \u0db4\u0dd0\u0da7\u0dc0\u0dd4\u0db8 \u0dc3\u0dcf\u0daf\u0db1\u0dca\u0db1
\n", "Create validation data loader
\n": "\u0dc0\u0dbd\u0d82\u0d9c\u0dd4\u0daf\u0dad\u0dca\u0dad \u0db4\u0dd0\u0da7\u0dc0\u0dd4\u0db8 \u0dc3\u0dcf\u0daf\u0db1\u0dca\u0db1
\n", "Create vocabulary
\n": "\u0dc0\u0da0\u0db1\u0db8\u0dcf\u0dbd\u0dcf\u0dc0 \u0dc3\u0dcf\u0daf\u0db1\u0dca\u0db1
\n", "Empty labels tensor
\n": "\u0dc4\u0dd2\u0dc3\u0dca\u0dbd\u0dda\u0db6\u0dbd\u0dca \u0da7\u0dd9\u0db1\u0dca\u0dc3\u0dbb\u0dca
\n", "Get model outputs. It's returning a tuple for states when using RNNs. This is not implemented yet. \ud83d\ude1c
\n": "\u0d86\u0daf\u0dbb\u0dca\u0dc1\u0db4\u0dca\u0dbb\u0dad\u0dd2\u0daf\u0dcf\u0db1\u0dba\u0db1\u0dca \u0dbd\u0db6\u0dcf \u0d9c\u0db1\u0dca\u0db1. \u0d86\u0dbb\u0dca\u0d91\u0db1\u0dca\u0d91\u0dc3\u0dca \u0db7\u0dcf\u0dc0\u0dd2\u0dad\u0dcf \u0d9a\u0dbb\u0db1 \u0dc0\u0dd2\u0da7 \u0d91\u0dba \u0db4\u0dca\u0dbb\u0dcf\u0db1\u0dca\u0dad \u0dc3\u0db3\u0dc4\u0dcf \u0da7\u0dd6\u0dbd\u0dca \u0d91\u0d9a\u0d9a\u0dca \u0db1\u0dd0\u0dc0\u0dad \u0dbd\u0db6\u0dcf \u0daf\u0dd9\u0dba\u0dd2. \u0db8\u0dd9\u0dba \u0dad\u0dc0\u0db8 \u0d9a\u0dca\u0dbb\u0dd2\u0dba\u0dcf\u0dad\u0dca\u0db8\u0d9a \u0d9a\u0dbb \u0db1\u0dd0\u0dad \ud83d\ude1c
\n", "Get tokenizer
\n": "\u0da7\u0ddd\u0d9a\u0db1\u0dba\u0dd2\u0dc3\u0dbb\u0dca\u0dbd\u0db6\u0dcf \u0d9c\u0db1\u0dca\u0db1
\n", "Get training and validation datasets
\n": "\u0db4\u0dd4\u0dc4\u0dd4\u0dab\u0dd4\u0dc0\u0dc3\u0dc4 \u0dc0\u0dbd\u0d82\u0d9c\u0dd4 \u0d9a\u0dd2\u0dbb\u0dd3\u0db8\u0dda \u0daf\u0dad\u0dca\u0dad \u0d9a\u0da7\u0dca\u0da7\u0dbd \u0dbd\u0db6\u0dcf \u0d9c\u0db1\u0dca\u0db1
\n", "Gradient clipping
\n": "\u0dc1\u0dca\u0dbb\u0dda\u0dab\u0dd2\u0dba\u0dda\u0d9a\u0dca\u0dbd\u0dd2\u0db4\u0dd2\u0db1\u0dca
\n", "Input data tensor, initialized with _^_0_^_
\n": "\u0d86\u0daf\u0dcf\u0db1\u0daf\u0dad\u0dca\u0dad \u0da7\u0dd9\u0db1\u0dca\u0dc3\u0dbb\u0dba, \u0dc3\u0db8\u0d9f \u0d86\u0dbb\u0db8\u0dca\u0db7 \u0d9a\u0dbb \u0d87\u0dad _^_0_^_
\n", "Length of the sequence, or context size
\n": "\u0d85\u0db1\u0dd4\u0d9a\u0dca\u0dbb\u0db8\u0dba\u0dda\u0daf\u0dd2\u0d9c, \u0dc4\u0ddd \u0dc3\u0db1\u0dca\u0daf\u0dbb\u0dca\u0db7\u0dba \u0db4\u0dca\u0dbb\u0db8\u0dcf\u0dab\u0dba
\n", "Load data to memory
\n": "\u0db8\u0dad\u0d9a\u0dba\u0dc0\u0dd9\u0dad \u0daf\u0dad\u0dca\u0dad \u0db4\u0dd6\u0dbb\u0dab\u0dba \u0d9a\u0dbb\u0db1\u0dca\u0db1
\n", "Log the model parameters and gradients on last batch of every epoch
\n": "\u0dc3\u0dd1\u0db8\u0dba\u0dd4\u0d9c\u0dbd\u0dba\u0d9a\u0db8 \u0d85\u0dc0\u0dc3\u0dcf\u0db1 \u0d9a\u0dab\u0dca\u0da9\u0dcf\u0dba\u0db8\u0dda \u0d86\u0daf\u0dbb\u0dca\u0dc1 \u0db4\u0dbb\u0dcf\u0db8\u0dd2\u0dad\u0dd3\u0db1\u0dca \u0dc3\u0dc4 \u0d85\u0db1\u0dd4\u0d9a\u0dca\u0dbb\u0db8\u0dd2\u0d9a \u0dbd\u0ddc\u0d9c\u0dca \u0d9a\u0dbb\u0db1\u0dca\u0db1
\n", "Loop through the samples
\n": "\u0dc3\u0dcf\u0db8\u0dca\u0db4\u0dbd\u0dc4\u0dbb\u0dc4\u0dcf \u0dbd\u0dd6\u0db4
\n", "Loss function
\n": "\u0db4\u0dcf\u0da9\u0dd4\u0dc1\u0dca\u0dbb\u0dd2\u0dad\u0dba
\n", "Model embedding size
\n": "\u0d86\u0daf\u0dbb\u0dca\u0dc1\u0d9a\u0dcf\u0dc0\u0dd0\u0daf\u0dca\u0daf\u0dd3\u0db8\u0dda \u0db4\u0dca\u0dbb\u0db8\u0dcf\u0dab\u0dba
\n", "Move data to the device
\n": "\u0d8b\u0db4\u0dcf\u0d82\u0d9c\u0dba\u0dc0\u0dd9\u0dad \u0daf\u0dad\u0dca\u0dad \u0d9c\u0dd9\u0db1\u0dba\u0db1\u0dca\u0db1
\n", "Number of classes
\n": "\u0db4\u0db1\u0dca\u0dad\u0dd2\u0d9c\u0dab\u0db1
\n", "Number of token in vocabulary
\n": "\u0dc0\u0da0\u0db1\u0db8\u0dcf\u0dbd\u0dcf\u0dc0\u0dda \u0da7\u0ddd\u0d9a\u0db1\u0dca \u0d9c\u0dab\u0db1
\n", "Optimizer
\n": "\u0db4\u0dca\u0dbb\u0dc1\u0dc3\u0dca\u0dad\u0d9a\u0dbb\u0dab\u0dba
\n", "Return _^_0_^_, _^_1_^_, _^_2_^_, and _^_3_^_
\n": "\u0d86\u0db4\u0dc3\u0dd4 _^_0_^__^_1_^_, _^_2_^_, \u0dc3\u0dc4 _^_3_^_
\n", "Save the tracked metrics
\n": "\u0dbd\u0dd4\u0dc4\u0dd4\u0db6\u0dd0\u0db3\u0d87\u0dad\u0dd2 \u0db4\u0dca\u0dbb\u0db8\u0dd2\u0dad\u0dd2\u0d9a \u0dc3\u0dd4\u0dbb\u0d9a\u0dd2\u0db1\u0dca\u0db1
\n", "Set the final token in the sequence to _^_0_^_
\n": "\u0d85\u0db1\u0dd4\u0db4\u0dd2\u0dc5\u0dd2\u0dc0\u0dd9\u0dbd\u0dd9\u0dc4\u0dd2\u0d85\u0dc0\u0dc3\u0dcf\u0db1 \u0da7\u0ddd\u0d9a\u0db1\u0dba \u0dc3\u0d9a\u0dc3\u0db1\u0dca\u0db1 _^_0_^_
\n", "Set the label
\n": "\u0dbd\u0dda\u0db6\u0dbd\u0dba\u0dc3\u0d9a\u0dc3\u0db1\u0dca\u0db1
\n", "Set tracker configurations
\n": "\u0da7\u0dca\u0dbb\u0dd0\u0d9a\u0dbb\u0dca\u0dc0\u0dd2\u0db1\u0dca\u0dba\u0dcf\u0dc3\u0dba\u0db1\u0dca \u0dc3\u0d9a\u0dc3\u0db1\u0dca\u0db1
\n", "Take optimizer step
\n": "\u0db4\u0dca\u0dbb\u0dc1\u0dc3\u0dca\u0dad\u0dd2\u0d9a\u0dbb\u0dab\u0db4\u0dd2\u0dba\u0dc0\u0dbb \u0d9c\u0db1\u0dca\u0db1
\n", "Tokenize the input text
\n": "\u0d86\u0daf\u0dcf\u0db1\u0db4\u0dd9\u0dc5 \u0da7\u0ddd\u0d9a\u0db1\u0dba\u0dd2\u0dc3\u0dca \u0d9a\u0dbb\u0db1\u0dca\u0db1
\n", "Tokenizer
\n": "\u0da7\u0ddd\u0d9a\u0db1\u0dba\u0dd2\u0dc3\u0dbb\u0dca
\n", "Train the model
\n": "\u0d86\u0d9a\u0dd8\u0dad\u0dd2\u0dba\u0db4\u0dd4\u0dc4\u0dd4\u0dab\u0dd4 \u0d9a\u0dbb\u0db1\u0dca\u0db1
\n", "Training data loader
\n": "\u0db4\u0dd4\u0dc4\u0dd4\u0dab\u0dd4\u0daf\u0dad\u0dca\u0dad \u0db4\u0dd0\u0da7\u0dc0\u0dd4\u0db8
\n", "Training device
\n": "\u0db4\u0dd4\u0dc4\u0dd4\u0dab\u0dd4\u0d8b\u0db4\u0dcf\u0d82\u0d9c\u0dba
\n", "Transpose and add to data
\n": "\u0daf\u0dad\u0dca\u0dad\u0dc3\u0db8\u0dca\u0db4\u0dca\u0dbb\u0dda\u0dc2\u0dab\u0dba \u0d9a\u0dbb \u0d91\u0d9a\u0dad\u0dd4 \u0d9a\u0dbb\u0db1\u0dca\u0db1
\n", "Truncate upto _^_0_^_
\n": "\u0daf\u0d9a\u0dca\u0dc0\u0dcf\u0da7\u0db1\u0dca\u0d9a \u0d9a\u0dbb\u0db1\u0dca\u0db1 _^_0_^_
\n", "Update global step (number of tokens processed) when in training mode
\n": "\u0db4\u0dd4\u0dc4\u0dd4\u0dab\u0dd4\u0db4\u0dca\u0dbb\u0d9a\u0dcf\u0dbb\u0dba\u0dda\u0daf\u0dd3 \u0d9c\u0ddd\u0dbd\u0dd3\u0dba \u0db4\u0dd2\u0dba\u0dc0\u0dbb \u0dba\u0dcf\u0dc0\u0dad\u0dca\u0d9a\u0dcf\u0dbd\u0dd3\u0db1 \u0d9a\u0dbb\u0db1\u0dca\u0db1 (\u0dc3\u0dd0\u0d9a\u0dc3\u0dd6 \u0da7\u0ddd\u0d9a\u0db1 \u0d9c\u0dab\u0db1)
\n", "Validation data loader
\n": "\u0dc0\u0dbd\u0d82\u0d9c\u0dd4\u0daf\u0dad\u0dca\u0dad \u0db4\u0dd0\u0da7\u0dc0\u0dd4\u0db8
\n", "Vocabulary
\n": "\u0dc0\u0da0\u0db1\u0db8\u0dcf\u0dbd\u0dcf\u0dc0
\n", "Whether to capture model outputs
\n": "\u0d86\u0d9a\u0dd8\u0dad\u0dd2\u0db4\u0dca\u0dbb\u0dad\u0dd2\u0daf\u0dcf\u0db1\u0dba\u0db1\u0dca \u0d9c\u0dca\u0dbb\u0dc4\u0dab\u0dba \u0d9a\u0dbb \u0d9c\u0dad \u0dba\u0dd4\u0dad\u0dd4\u0daf \u0dba\u0db1\u0dca\u0db1
\n", "Whether to log model activations (once per epoch). These are summarized stats per layer, but it could still lead to many indicators for very deep networks.
\n": "\u0d86\u0daf\u0dbb\u0dca\u0dc1\u0dc3\u0d9a\u0dca\u0dbb\u0dd2\u0dba \u0d9a\u0dd2\u0dbb\u0dd3\u0db8\u0dca \u0dbd\u0ddc\u0d9c\u0dca \u0d9a\u0dc5 \u0dba\u0dd4\u0dad\u0dd4\u0daf \u0dba\u0db1\u0dca\u0db1 (\u0d91\u0d9a\u0dca \u0d91\u0d9a\u0dca \u0d8a\u0db4\u0ddd\u0da0\u0dca \u0d91\u0d9a\u0d9a\u0da7 \u0dc0\u0dbb\u0d9a\u0dca). \u0db8\u0dda\u0dc0\u0dcf \u0dc3\u0dca\u0dae\u0dbb\u0dba\u0d9a\u0da7 \u0dc3\u0dcf\u0dbb\u0dcf\u0d82\u0dc1\u0d9c\u0dad \u0dc3\u0d82\u0d9b\u0dca\u0dba\u0dcf\u0db1 \u0dc0\u0dda, \u0db1\u0db8\u0dd4\u0dad\u0dca \u0d91\u0dba \u0dad\u0dc0\u0db8\u0dad\u0dca \u0d89\u0dad\u0dcf \u0d9c\u0dd0\u0db9\u0dd4\u0dbb\u0dd4 \u0da2\u0dcf\u0dbd \u0dc3\u0db3\u0dc4\u0dcf \u0db6\u0ddc\u0dc4\u0ddd \u0daf\u0dbb\u0dca\u0dc1\u0d9a \u0dc0\u0dbd\u0da7 \u0dc4\u0dda\u0dad\u0dd4 \u0dc0\u0dd2\u0dba \u0dc4\u0dd0\u0d9a\u0dd2\u0dba.
\n", "Whether to log model parameters and gradients (once per epoch). These are summarized stats per layer, but it could still lead to many indicators for very deep networks.
\n": "\u0d86\u0daf\u0dbb\u0dca\u0dc1\u0db4\u0dbb\u0dcf\u0db8\u0dd2\u0dad\u0dd3\u0db1\u0dca \u0dc3\u0dc4 \u0d85\u0db1\u0dd4\u0d9a\u0dca\u0dbb\u0db8\u0dd2\u0d9a \u0dbd\u0d9d\u0dd4-\u0dc3\u0da7\u0dc4\u0db1 \u0dba\u0db1\u0dca\u0db1 (\u0d91\u0d9a\u0dca \u0d91\u0d9a\u0dca \u0d91\u0d9a\u0dca \u0d91\u0d9a\u0dca \u0d91\u0d9a\u0dca \u0dc0\u0dbb\u0d9a\u0dca). \u0db8\u0dda\u0dc0\u0dcf \u0dc3\u0dca\u0dae\u0dbb\u0dba\u0d9a\u0da7 \u0dc3\u0dcf\u0dbb\u0dcf\u0d82\u0dc1\u0d9c\u0dad \u0dc3\u0d82\u0d9b\u0dca\u0dba\u0dcf\u0db1 \u0dc0\u0dda, \u0db1\u0db8\u0dd4\u0dad\u0dca \u0d91\u0dba \u0dad\u0dc0\u0db8\u0dad\u0dca \u0d89\u0dad\u0dcf \u0d9c\u0dd0\u0db9\u0dd4\u0dbb\u0dd4 \u0da2\u0dcf\u0dbd \u0dc3\u0db3\u0dc4\u0dcf \u0db6\u0ddc\u0dc4\u0ddd \u0daf\u0dbb\u0dca\u0dc1\u0d9a \u0dc0\u0dbd\u0da7 \u0dc4\u0dda\u0dad\u0dd4 \u0dc0\u0dd2\u0dba \u0dc4\u0dd0\u0d9a\u0dd2\u0dba.
\n", "Whether to periodically save models
\n": "\u0dc0\u0dbb\u0dd2\u0db1\u0dca\u0dc0\u0dbb \u0d86\u0d9a\u0dd8\u0dad\u0dd2 \u0dc3\u0dd4\u0dbb\u0dd0\u0d9a\u0dd3\u0db8\u0da7 \u0dba\u0db1\u0dca\u0db1
\n", "