Penalización C en SVM: ¿una C mayor aumenta el margen o lo reduce?

Question

Obtengo información contradictoria sobre lo que hace el valor de penalización C en la SVM.

La página 346,347 del siguiente libro dice que una C más grande significa que se permite una clasificación errónea más grande y el margen será mayor. http://faculty.marshall.usc.edu/gareth-james/ISL/ISLR%20Seventh%20Printing.pdf

lo mismo dice el siguiente enlace (en la sección de regularización) https://www.datacamp.com/community/tutorials/svm-classification-scikit-learn-python

Sin embargo, todas las demás fuentes que he leído dicen que C en la clase svm de python representa la penalización y que una C más grande significa una mayor penalización y, por tanto, un menor margen. (Pero según el libro anterior y las ecuaciones de optimización, C es el margen para la clasificación errónea y esto parece correcto - basado en la fórmula).

Puede alguien explicar por qué los dos enlaces anteriores se contradicen con otras fuentes

Answer 1

1. Reservar ISLR - El parámetro de ajuste C se define como el límite superior de la suma de todas las variables de holgura. Cuanto mayor sea C, mayores serán las variables de holgura. Un C más alto significa un margen más amplio, y también más tolerancia a la clasificación errónea.

2. La otra fuente (incluyendo Python y otros tutoriales en línea) está buscando otras formas de optimización. El parámetro de ajuste C es NO definido como el límite superior de la suma de todas las variables de holgura. Por el contrario, un C más grande significa más restricciones en las variables de holgura, y un C más pequeño significa menos restricciones en las variables de holgura.

La C pequeña significa que la parte de la penalización (la parte derecha) juega un papel poco importante. No necesitamos que las variables de holgura sean muy pequeñas para el proceso de minimización. Tenemos más tolerancia a los errores de clasificación. El margen será amplio.

Una C grande significa que las partes de la penalización desempeñan un papel importante. Queremos que las variables de holgura sean lo más pequeñas posible. No toleraremos los errores de clasificación. El margen será estrecho.