今天公司开机器学习的讨论班,期间,一个同学问道:为什么线性回归的均方误差函数是凸的(好像是这个吧)?我一激动来了一句“凸函数被多项式复合也是凸函数”,这个结论是不对的。应该是“凸函数在仿射变化下保持凸性不变”,也就是x^2是凸函数,那么(a1*x1+a2*x2+...an*xn)^2也是凸函数。
按照维基百科的观点,凸函数的性质,总结起来不过下面三点:http://zh.wikipedia.org/zh/%E5%87%B8%E5%87%BD%E6%95%B0
- 如果和是凸函數,那麼和也是凸函數。
- 如果和是凸函數,且遞增,那麼是凸函數。
- 凸性在仿射映射下不變:也就是說,如果是凸函數(),那麼也是凸函數,其中
- 如果在內是凸函數,且是一個凸的非空集,那麼在內是凸函數,只要對於某個,有。
哎,今天讨论会上自己真是乱扯淡,以后要沉稳一些,想清楚了再发言,免得误导别人——当然,大牛们是不会被我这小罗罗误导的,哈哈~
2012-09-13