A、用食醋去除水壶中的水垢的过程中,食醋与水垢发生反应,有新物质生成,属于化学变化.B、活性炭具有吸附作用,能够吸附色素和异味,没有新物质生成,属于物理变化.C、用含有氢氧化钠的厨房清洁剂清洗油污,是氢氧化钠与油污发生反应,有新物质生成,属于化学变化.D、小苏打能与发酵粉反应生成二氧化碳等新物质,有新物质生成,属于化学变化.B是物理变化,与A、C、D三个化学变化有本质区别.故选B.