大数据技术之python实现redis客户端单例+hbase客户端单例
沉沙 2019-05-10 来源 : 阅读 1079 评论 0

摘要:本篇文章探讨了大数据技术之python实现redis客户端单例+hbase客户端单例,希望阅读本篇文章以后大家有所收获,帮助大家对相关内容的理解更加深入。

本篇文章探讨了大数据技术之python实现redis客户端单例+hbase客户端单例,希望阅读本篇文章以后大家有所收获,帮助大家对相关内容的理解更加深入。

大数据技术之python实现redis客户端单例+hbase客户端单例

当业务需要大量去连接redis或者hbase的时候,大量的连接会造成socket的大量占用,导致的结果就是服务器没有更多的端口去分配,这种情况下的最好解决方案就是实现客户端连接的单例模式,保持连接永远是同一个。说到这,可能大家没有经历过,如果在每秒钟插入4000条数据的话,这个现象就非常明显了。下面就实现下python实现操作redis+hbase单例模式,有很多改进之处,根据自己业务进行调整,可以通过打印实例的ID进行验证:

import happybase
import redis
class _RedisMgrSingleton(type):
    '''redis的单例'''
    def __init__(self, name, bases, dict):
        super(_RedisMgrSingleton, self).__init__(name, bases, dict)
        self._instance = {}
    def __call__(self, host,port,db):
        if not self._instance.has_key((host,port,db)):
            self._instance[(host,port,db)] = super(_RedisMgrSingleton, self).__call__(host,port,db)
        return self._instance[(host,port,db )]
class HbaseSingleton(type):
    '''hbase的单例'''
    def __init__(self, name, bases, dict):
        super(HbaseSingleton, self).__init__(name, bases, dict)
        self._instance = {}
    def __call__(self, host,table):
        if not self._instance.has_key((host,table)):
            self._instance[(host,table)] = super(HbaseSingleton, self).__call__(host,table)
        return self._instance[(host,table)]
class RedisMgr:
    "redis操作专用类"
    def  __init__(self,host,port,db,max_connections=3):
        "eg:  host    '192.168.2.184'   port  6379    db   14"
        self.host=host
        self.port=port
        self.db=db
        self.conn=redis.Redis(connection_pool= redis.ConnectionPool(host=host,port=port,db=db,max_connections=max_connections))
    def run_redis_fun(self,funname,*args):
        fun=getattr(self.conn,funname)
        print args
        return  fun(*args)
    def pipe(self):
        return self.conn.pipeline(transaction=False)
    __metaclass__ = _RedisMgrSingleton      #元类实现单例
class HbaseOperate(object):
    def __init__(self,host,table):
        self.host = host
        self.table = table
        self.conn = happybase.Connection(self.host)
        self.table = self.conn.table(self.table)
    def run(self,fun,*args):
        # result =self.table.row(*args)
        funname = getattr(self.table,fun)
        return funname(*args)
    def cells(self,column,info,version):
        return self.table.cells(column,info,versions=version)
    __metaclass__ = HbaseSingleton      #元类实现单例
conn = HbaseOperate('xxx.xx.11.8',"history_visitor_product")
result = conn.cells('chenhuachao','info:visiotr',3)
print result
print "第一次",id(conn)
conn1 = HbaseOperate('xxx.xxx.11.8',"history_visitor_product")
result1= conn1.cells('chenhuachao','info:visiotr',6)
print result1
print "第二次",id(conn1)
#output
['test10', 'test9', 'test97']
第一次 38014896
['test10', 'test9', 'test97', 'test17', 'test1345\n']
第二次 38014896

      本文由职坐标整理发布,学习更多的相关知识,请关注职坐标IT知识库!

本文由 @沉沙 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved

208小时内训课程