Hay muchos tipos de licencia de código abierto. Algunas permiten la reutilización en software comercial, otras no. Todas le permitirán modificar el código para sus propias necesidades siempre que respete las demás cláusulas de la licencia.
Concretamente para QGIS, la licencia es la Licencia pública general GNU . Es una licencia copyleft, lo que significa que el trabajo derivado sólo puede distribuirse bajo los mismos términos de licencia. En otras palabras, no se puede redistribuir el código QGIS bajo una licencia propietaria, pero se puede hacer un uso comercial del software QGIS. Para la venta o distribución, es necesario poner a disposición de los usuarios finales todo el código fuente, incluidos los cambios y adiciones al código; en ese caso, se aplica el copyleft para garantizar que los usuarios finales conserven las libertades definidas anteriormente.
Así, por ejemplo, usted puede vender un programa basado en QGIS con su propio complemento si se mantiene bajo la licencia GPL. Al estar bajo GPL, tu software estará bajo GPL y tu cliente podrá redistribuirlo bajo GPL si quiere. Así que si quieres muchos clientes será mejor que ofrezcas algunos servicios alrededor de tu distribución del software.
EDIT: por poner otro ejemplo, GDAL está bajo la licencia X11/MIT, lo que significa que se pretende dar permiso para hacer lo que se quiera con el código fuente de GDAL: descargarlo, modificarlo, redistribuirlo como se quiera, incluyendo la construcción de software comercial propietario, sin necesidad de permiso de nadie más. La mayoría de los programas comerciales de SIG utilizan GDAL.