2 ran9nar ran9nar 于 2016.05.10 15:21 提问

使用Python编写Storm程序,无法将结果写入MySQL

我使用Python作为编程语言写一个关联关系挖掘的程序部署在Storm集群,将jar包提交到集群后无法将结果写入数据库,贴上写入结果的bolt代码,希望大家帮忙看看,不胜感激:

 #coding=utf-8
import MySQLdb
import logging
from pyleus.storm import SimpleBolt

log = logging.getLogger('log_results')

def write_result(freqset,count):#将结果写入数据库
    conn = MySQLdb.connect(host='10.1.1.5',user='root',passwd='',db='datamining',port=3306)
    cur = conn.cursor()
    st = ''
    for i in freqset:#转换成字符串
        st = st + i + ','
    sql = "select * from result where freqset = " + "'"+ st +"'"#查询是否已经在数据库中存在
    cur.execute(sql)
    returned_value = cur.fetchone()
    if returned_value != None:#如果在则更新计数值
        supnum = returned_value[1]+count
        sql1 = "update result set supnum = %s where freqset = '%s';" %(str(supnum),st)
        cur.execute(sql1)
        conn.commit
    else:#不在则插入数据
        value = [st,count]
        sql2 = 'insert into result values(%s,%s)'
        cur.execute(sql2,value)
        conn.commit()

    cur.close()
    conn.close()


class LogResultsBolt(SimpleBolt):

    def process_tuple(self, tup):#接收上游频繁集,及其计数值
        freqset, count = tup.values
        log.debug("%s: %d", freqset, count)#写入log中
        write_result(freqset, count)

if __name__ == '__main__':
    logging.basicConfig(
        level=logging.DEBUG,
        filename='/tmp/results.log',
        format="%(message)s",
        filemode='a',
    )

    LogResultsBolt().run()

2个回答

ran9nar
ran9nar   2016.05.11 18:02
已采纳

问题已解决除了在requirements.txt中写‘MySQL-python’,在集群各个节点上也要安装MySQL-python

oyljerry
oyljerry   Ds   Rxr 2016.05.10 15:49

查看写入数据库返回的是否有错误信息。

Csdn user default icon
上传中...
上传图片
插入图片
准确详细的回答,更有利于被提问者采纳,从而获得C币。复制、灌水、广告等回答会被删除,是时候展现真正的技术了!