如何提高数据库访问性能

我的案例是这样的，一个中心数据库和web services，大概数据量是1000万行，8列左右，都是简单数据类型。不同的省调用相同的webserivce来检索数据库（没有update)。目前发现有些检索需要3-5秒钟左右。在数据库结构不能改变的情况下，如何能够提高网站的响应时间呢？ 每个省的网站访问量在每天10kpv下，并发用户500。

目前的想法是使用一层内存数据库放在application server.目前在考虑hsqldb。由于以前没有这么大的数据量和访问量，不知道可不可以。hsqldb打算使用内存方式，每天晚上会有一个batch更新它。晚上用户的访问量应该很少。

如果抛开数据库的缓存，不知道还有什么办法？