Felipe,
Problema de erro de alocação de memória.
Pode ser memoria insuficiente para executar esta tarefa.
Tente usar imagens menores, menos imagens ou coloque mais RAM na sua máquina.
Procurei por “MemoryError: bad allocation dlib” e encontrei alguns posts interessantes que talvez possam te ajudar:
Veja uma explicação do Davis King, autor do Dlib, sobre este tipo de erro no treinamento:
https://github.com/davisking/dlib/issues/1334
Verifique o link abaixo para tratar deste erro de maneira geral:
https://www.techinpost.com/memory-allocation-error/
Um outro caminho seria executar o treinamento utilizando o prompt do python, ou seja, não utilizando o pyCharm.
> python treinamento_deteccao_bovinos.py
Veja as opções do treinamento em
http://dlib.net/python/index.html#dlib.simple_object_detector_training_options
Tente estas opções também:
opcoes.num_threads = 4
opcoes_be_verbose = True
Espero que tenha ajudado de algum modo.