El Rottweiler es una de las razas más antiguas. Su origen data desde el tiempo de los romanos. En ese entonces se le poseía como perro de protección y conducción de ganado. Estos perros se fueron mudando con los romanos más allá de las regiones alpinas, donde protegían a la gente y conducían el ganado.

En la región de Rottweil, estos ejemplares se cruzaron con los perros nativos de una forma natural, de los cuales surgió una mezcla. A partir de entonces, la tarea principal del Rottweiler fue la de cuidar y conducir ganado mayor y defender a su amo y sus posesiones. Su nombre lo obtuvo de la antigua ciudad libre de Rottweil y era conocido como «perro de carnicero de Rottweil». Los carniceros lo criaban solo de acuerdo a su rendimiento y utilidad. Fue así como, al paso del tiempo, se formó una raza de protección y conducción inmejorable, a la que también se le encontró utilidad como perro de tracción. Cuando a principios el siglo XX se buscaron razas caninas aptas para el servicio de la policía, el Rottweiler estuvo entre las que fueron probadas.