首先f'(x)=3ax²-3,所以g(x)=ax^3+3ax²-3x-3,则g'(x)=3ax²+6ax-3
由已知,g(x)在[0,2]上递减,所以在[0,2]上g'(x)=3ax²+6ax-3≤0当a>0时
(下面不再讨论抛物线,而是用简便方法)
则在[0,2]上,a≤1/(x²+2x)恒成立,(则a要比1/(x²+2x)的最小值还要小才能恒成立)
又x²+2x=(x+1)²-1且x∈[0,2],
∴1≤x+1≤3,所以1≤(x+1)²≤9,0≤(x+1)²-1≤8,可去掉0,
则1/(x²+2x)≥1/8,
∴a≤1/8
f'(x)=3ax^2-6x
g(x)=ax^3+3(a-1)x^2-6x
g'(x)=3ax^2+6(a-1)x-6<=0在[1,2]上恒成立。
则有a<=(2x-2)/(x^2+2x)所以(2x-2)/(x^2+2x)的最小值都要比a 大才能恒成立
令 (2x-2)/(x^2+2x)=h(x)
h'(x)=-2*[(x-1)^2-3]/(x^2+2x)^2>0在[1,2]上
所以h(x)的最小值为h(1)=0
所以a<=0
f'(x)=3a^2-6x
g(x)=f(x)+f'(x)=ax^3+3(a-1)x^2-6x
所以g(0)=0,g(2)=20a-24
根据题意有:g(0)>g(2),即a<6/5
请看图片: