现在的位置: 首页 > 综合 > 正文

Hibernate–实现二级缓存

2013年07月09日 ⁄ 综合 ⁄ 共 8742字 ⁄ 字号 评论关闭

          做J2EE开发,有时为了提高一些项目(例如:web开发)的性能,总会有一些方案去提高

交互的速度。这里特指一些访问量很大,或者说对时间性能上要求比较高的项目。我们常见的是

静态化技术,就是利用模板,把页面中需要动态提取的数据取代成一段字符串,然后后台写一个

方法提取数据并替换页面字符串,重新生成静态页(HTML页面)。然后让用户访问静态页面。一段

时间以后再借助人工或js调用,或者是监听器调用静态化方法,更新数据,重新生成静态页。这个

方案实现了彻底的静态,但是还是具有一定的复杂度,且不易维护拓展的弊病,一旦页面不再使用,

那么模板也就没用了,所有静态化方法还要重写。

-------------------------------------------------------------------------------------------------

           本文会介绍一种方法,也是大家都听说过的----缓存技术,这个方案在J2EE开发中一般要

借助第三方缓存框架支持。我在这里也不介绍具体的缓存内部实现细节,因为我还没有看那些框架

的源码。但是不了解内部实现,并不影响我们去使用它们。

-------------------------------------------------------------------------------------------------

还是使用Hibernate来配置,在介绍配置方案前,先说说hibernate中的缓存:

hibernate中有两种缓存级别,分别是Session级别(一级缓存)和SessionFactory级别(二级缓存)。

          一级缓存是 session级共享,save,update,saveOrUpdate,load,get,list,iterate,lock这些方法都会将对象放 在一级缓存

中,一级缓存不能控制缓存的数量,所以要注意大批量操作数据时可能造成内存溢出;可以用evict,clear方法清楚缓存中的内容。

          二级缓存是SessionFactory级共享,实现可插拔,通过修改配置文件参数就可以使用。

hibernate内置了对EhCache,OSCache,TreeCache,SwarmCache的支持,可以通过实现CacheProvider和Cache接口加入。

Session的:save(此方法不适合native生成方式的主键),update,saveOrUpdate,list,iterator,get,load,以及Query,

Criteria都会填充二级缓存,但查询缓存时,只有Session的iterator,get,load会从二级缓存中取数据。

Query,Criteria由于命中率较低,所以hibernate缺省是关闭的。Query查询命中低的一方面原因就是条件很难保证一致,且数据量

大,无法保证数据的真实性。

我在这里以应用十分广泛的OSCache第三方缓存框架为例,谈谈具体实现。

-------------------------------------------------------------------------------------------------

*********实现OSCache二级缓存的配置方案***********

1.首先我们需要在hibernate.cfg.xml中配置几个属性:

<!-- 是否开启二级缓存,缺省为开启 -->
<property name="cache.use_second_level_cache">true</property>
<!-- 选择第三方缓存框架支持 -->
<property name="cache.provider_class">org.hibernate.cache.OSCacheProvider</property>

 

为了能够查看二级缓存的使用效果,还可以配置:

<property name="generate_statistics">true</property>

2.然后是哪些类需要配置二级缓存:(举例User实体类)

<class-cache class="com.sy.vo.User" usage="read-write" />

其中usage是策略,属性值:

read-only:只读,效率最高。
read-write:读写,效率较低。但是能保证并发正确性。
nonstrict-read-write:非严格的读写,效率较高,不用加锁,不能保证并发正确性。例如帖子浏览量。
transactional:事务性缓存,可回滚缓存数据,一般缓存框架不带有此功能,实现很复杂。

这样hibernate.cfg.xml就配置完了。

3.配置映射文件User.hbm.xml,加入这句代码:

<cache usage="read-write"/>

 

4.加入oscache.properties配置文件到classPath下,这个文件在hibernate源码包中有。里面
有很多属性可以设置,如果只是简单实现,不需要修改。不修改的情况下,只有一个配置,是
配置二级缓存的大小,这个视本机内存而定。默认1000。
其中还有一个分布式的配置,可以设置主机IP等等。由于资源有限,我没有做实验。在此不做过多介绍。

OK,配置完成!

----------------------------------------------------------------------------------------------------------

写一个测试类,测试吧。
补充一个测试方法:

Statistics st=HibernateUtil.getSessionFactory().getStatistics();

 

通过输出st的信息,可以查看缓存的使用情况。

再补充一个清除二级缓存的方法:

HibernateUtil.getSessionFactory().evict(User.class);//清除一个实体类的所有缓存
HibernateUtil.getSessionFactory().evict(User.class,id);//清除单条缓存

 

很多人对二级缓存都不太了解,或者是有错误的认识,我一直想写一篇文章介绍一下hibernate的二级缓存的,今天终于忍不住了。 
我的经验主要来自hibernate2.1版本,基本原理和3.0、3.1是一样的,请原谅我的顽固不化。

hibernate的session提供了一级缓存,每个session,对同一个id进行两次load,不会发送两条sql给数据库,但是session关闭的时候,一级缓存就失效了。 

二级缓存是SessionFactory级别的全局缓存,它底下可以使用不同的缓存类库,比如ehcache、oscache等,需要设置hibernate.cache.provider_class,我们这里用ehcache,在2.1中就是 
hibernate.cache.provider_class=net.sf.hibernate.cache.EhCacheProvider 
如果使用查询缓存,加上 
hibernate.cache.use_query_cache=true 


缓存可以简单的看成一个Map,通过key在缓存里面找value。 

Class的缓存 
对于一条记录,也就是一个PO来说,是根据ID来找的,缓存的key就是ID,value是POJO。无论list,load还是 iterate,只要读出一个对象,都会填充缓存。但是list不会使用缓存,而iterate会先取数据库select
id出来,然后一个id一个id的load,如果在缓存里面有,就从缓存取,没有的话就去数据库load。假设是读写缓存,需要设置: 

&lt;cache usage="read-write"/&gt; 
如果你使用的二级缓存实现是ehcache的话,需要配置ehcache.xml 
&lt;cache name="com.xxx.pojo.Foo" maxElementsInMemory="500" eternal="false" timeToLiveSeconds="7200" timeToIdleSeconds="3600"
overflowToDisk="true" /&gt; 

其中eternal表示缓存是不是永远不超时,timeToLiveSeconds是缓存中每个元素(这里也就是一个POJO)的超时时间,如果 eternal="false",超过指定的时间,这个元素就被移走了。timeToIdleSeconds是发呆时间,是可选的。当往缓存里面put的
元素超过500个时,如果overflowToDisk="true",就会把缓存中的部分数据保存在硬盘上的临时文件里面。 

每个需要缓存的class都要这样配置。如果你没有配置,hibernate会在启动的时候警告你,然后使用defaultCache的配置,这样多个class会共享一个配置。 
当某个ID通过hibernate修改时,hibernate会知道,于是移除缓存。 
这样大家可能会想,同样的查询条件,第一次先list,第二次再iterate,就可以使用到缓存了。实际上这是很难的,因为你无法判断什么时候 是第一次,而且每次查询的条件通常是不一样的,假如数据库里面有100条记录,id从1到100,第一次list的时候出了前50个id,第二次
iterate的时候却查询到30至70号id,那么30-50是从缓存里面取的,51到70是从数据库取的,共发送1+20条sql。所以我一直认为 iterate没有什么用,总是会有1+N的问题。 

(题外话:有说法说大型查询用list会把整个结果集装入内存,很慢,而iterate只select id比较好,但是大型查询总是要分页查的,谁也不会真的把整个结果集装进来,假如一页20条的话,iterate共需要执行21条语句,list虽然选择
若干字段,比iterate第一条select id语句慢一些,但只有一条语句,不装入整个结果集hibernate还会根据数据库方言做优化,比如使用mysql的limit,整体看来应该还是 list快。) 

如果想要对list或者iterate查询的结果缓存,就要用到查询缓存了 

查询缓存 
首先需要配置hibernate.cache.use_query_cache=true 
如果用ehcache,配置ehcache.xml,注意hibernate3.0以后不是net.sf的包名了 
&lt;cache name="net.sf.hibernate.cache.StandardQueryCache" 
   maxElementsInMemory="50" eternal="false" timeToIdleSeconds="3600" 
   timeToLiveSeconds="7200" overflowToDisk="true"/&gt; 
&lt;cache name="net.sf.hibernate.cache.UpdateTimestampsCache" 
   maxElementsInMemory="5000" eternal="true" overflowToDisk="true"/&gt; 
然后 
query.setCacheable(true);//激活查询缓存 
query.setCacheRegion("myCacheRegion");//指定要使用的cacheRegion,可选 
第二行指定要使用的cacheRegion是myCacheRegion,即你可以给每个查询缓存做一个单独的配置,使用setCacheRegion来做这个指定,需要在ehcache.xml里面配置它: 
&lt;cache name="myCacheRegion" maxElementsInMemory="10" eternal="false" timeToIdleSeconds="3600" timeToLiveSeconds="7200"
overflowToDisk="true" /&gt; 

如果省略第二行,不设置cacheRegion的话,那么会使用上面提到的标准查询缓存的配置,也就是net.sf.hibernate.cache.StandardQueryCache 

对于查询缓存来说,缓存的key是根据hql生成的sql,再加上参数,分页等信息(可以通过日志输出看到,不过它的输出不是很可读,最好改一下它的代码)。 
比如hql: 
from Cat c where c.name like ? 
生成大致如下的sql: 
select * from cat c where c.name like ? 
参数是"tiger%",那么查询缓存的key*大约*是这样的字符串(我是凭记忆写的,并不精确,不过看了也该明白了): 
select * from cat c where c.name like ? , parameter:tiger% 
这样,保证了同样的查询、同样的参数等条件下具有一样的key。 
现在说说缓存的value,如果是list方式的话,value在这里并不是整个结果集,而是查询出来的这一串ID。也就是说,不管是list方 法还是iterate方法,第一次查询的时候,它们的查询方式很它们平时的方式是一样的,list执行一条sql,iterate执行1+N条,多出来的
行为是它们填充了缓存。但是到同样条件第二次查询的时候,就都和iterate的行为一样了,根据缓存的key去缓存里面查到了value,value是 一串id,然后在到class的缓存里面去一个一个的load出来。这样做是为了节约内存。 

可以看出来,查询缓存需要打开相关类的class缓存。list和iterate方法第一次执行的时候,都是既填充查询缓存又填充class缓存的。 
这里还有一个很容易被忽视的重要问题,即打开查询缓存以后,即使是list方法也可能遇到1+N的问题!相同
条件第一次list的时候,因为查询缓存中找不到,不管class缓存是否存在数据,总是发送一条sql语句到数据库获取全部数据,然后填充查询缓存和 class缓存。但是第二次执行的时候,问题就来了,如果你的class缓存的超时时间比较短,现在class缓存都超时了,但是查询缓存还在,那么 list方法在获取id串以后,将会一个一个去数据库load!因此,class缓存的超时时间一定不能短于查询缓存设置的超时时间!如果还设置了发呆时 间的话,保证class缓存的发呆时间也大于查询的缓存的生存时间。这里还有其他情况,比如class缓存被程序强制evict了,这种情况就请自己注意
了。 


另外,如果hql查询包含select字句,那么查询缓存里面的value就是整个结果集了。 

当hibernate更新数据库的时候,它怎么知道更新哪些查询缓存呢? 
hibernate在一个地方维护每个表的最后更新时间,其实也就是放在上面net.sf.hibernate.cache.UpdateTimestampsCache所指定的缓存配置里面。 
当通过hibernate更新的时候,hibernate会知道这次更新影响了哪些表。然后它更新这些表的最后更新时间。每个缓存都有一个生成时 间和这个缓存所查询的表,当hibernate查询一个缓存是否存在的时候,如果缓存存在,它还要取出缓存的生成时间和这个缓存所查询的表,然后去查找这
些表的最后更新时间,如果有一个表在生成时间后更新过了,那么这个缓存是无效的。 

可以看出,只要更新过一个表,那么凡是涉及到这个表的查询缓存就失效了,因此查询缓存的命中率可能会比较低。 

Collection缓存 
需要在hbm的collection里面设置 
&lt;cache usage="read-write"/&gt; 
假如class是Cat,collection叫children,那么ehcache里面配置 
&lt;cache name="com.xxx.pojo.Cat.children" 
   maxElementsInMemory="20" eternal="false" timeToIdleSeconds="3600" timeToLiveSeconds="7200" 
   overflowToDisk="true" /&gt; 
Collection的缓存和前面查询缓存的list一样,也是只保持一串id,但它不会因为这个表更新过就失效,一个collection缓存仅在这个collection里面的元素有增删时才失效。 
这样有一个问题,如果你的collection是根据某个字段排序的,当其中一个元素更新了该字段时,导致顺序改变时,collection缓存里面的顺序没有做更新。 

缓存策略 
只读缓存(read-only):没有什么好说的 
读/写缓存(read-write):程序可能要的更新数据 
不严格的读/写缓存(nonstrict-read-write):需要更新数据,但是两个事务更新同一条记录的可能性很小,性能比读写缓存好 
事务缓存(transactional):缓存支持事务,发生异常的时候,缓存也能够回滚,只支持jta环境,这个我没有怎么研究过 

读写缓存和不严格读写缓存在实现上的区别在于,读写缓存更新缓存的时候会把缓存里面的数据换成一个锁,其他事务如果去取相应的缓存数据,发现被锁住了,然后就直接取数据库查询。 
在hibernate2.1的ehcache实现中,如果锁住部分缓存的事务发生了异常,那么缓存会一直被锁住,直到60秒后超时。 
不严格读写缓存不锁定缓存中的数据。 


使用二级缓存的前置条件 
你的hibernate程序对数据库有独占的写访问权,其他的进程更新了数据库,hibernate是不可能知道的。你操作数据库必需直接通过 hibernate,如果你调用存储过程,或者自己使用jdbc更新数据库,hibernate也是不知道的。hibernate3.0的大批量更新和删
除是不更新二级缓存的,但是据说3.1已经解决了这个问题。 

这个限制相当的棘手,有时候hibernate做批量更新、删除很慢,但是你却不能自己写jdbc来优化,很郁闷吧。 
SessionFactory也提供了移除缓存的方法,你一定要自己写一些JDBC的话,可以调用这些方法移除缓存,这些方法是: 
void evict(Class persistentClass) 
          Evict all entries from the second-level cache. 
void evict(Class persistentClass, Serializable id) 
          Evict an entry from the second-level cache. 
void evictCollection(String roleName) 
          Evict all entries from the second-level cache. 
void evictCollection(String roleName, Serializable id) 
          Evict an entry from the second-level cache. 
void evictQueries() 
          Evict any query result sets cached in the default query cache region. 
void evictQueries(String cacheRegion) 
          Evict any query result sets cached in the named query cache region. 
不过我不建议这样做,因为这样很难维护。比如你现在用JDBC批量更新了某个表,有3个查询缓存会用到这个表,用 evictQueries(String cacheRegion)移除了3个查询缓存,然后用evict(Class persistentClass)移除了class缓存,看上去好像完整了。不过哪天你添加了一个相关查询缓存,可能会忘记更新这里的移除代码。如果你的
jdbc代码到处都是,在你添加一个查询缓存的时候,还知道其他什么地方也要做相应的改动吗? 


---------------------------------------------------- 

总结: 
不要想当然的以为缓存一定能提高性能,仅仅在你能够驾驭它并且条件合适的情况下才是这样的。hibernate的二级缓存限制还是比较多的,不方便用jdbc可能会大大的降低更新性能。在不了解原理的情况下乱用,可能会有1+N的问题。不当的使用还可能导致读出脏数据。 
如果受不了hibernate的诸多限制,那么还是自己在应用程序的层面上做缓存吧。 
在越高的层面上做缓存,效果就会越好。就好像尽管磁盘有缓存,数据库还是要实现自己的缓存,尽管数据库有缓存,咱们的应用程序还是要做缓存。因为 底层的缓存它并不知道高层要用这些数据干什么,只能做的比较通用,而高层可以有针对性的实现缓存,所以在更高的级别上做缓存,效果也要好些吧。 

抱歉!评论已关闭.