Hive高级查询(group by、 order by、 join等)
查询操作group by、 order by、 join 、 distribute by、 sort by、 clusrer by、 union all底层的实现mapreduce常见的聚合操作count计数count(*) 所有值不全为NULL时,加1操作 count(1) 不管有没有值,只要有这条记录,值就加1 count(col)...
View Articlejava并发 使用ScheduledExecutor的温室控制器--thinking in java 21.7.5
package org.rui.thread.newc; import java.text.DateFormat; import java.text.SimpleDateFormat; import java.util.ArrayList; import java.util.Calendar; import java.util.Collections; import java.util.List;...
View Article微信开发入门
【做微信平台开发需要以下步骤,wx.zip示例可以参考,修改配置即可】1.申请一个公众号(订阅号或者服务号)2.需要有自己的服务器(建议使用花生壳做内网映射)3.配置微信服务器 4.编写后台代码*微信入口package com.wx.controller; import java.io.IOException; import javax.servlet.ServletException;...
View Article【转】【MySql】赶集网mysql开发36条军规
(一)核心军规(1)不在数据库做运算 cpu计算务必移至业务层;(2)控制单表数据量 int型不超过1000w,含char则不超过500w; 合理分表; 限制单库表数量在300以内;(3)控制列数量 字段少而精,字段数建议在20以内;(4)平衡范式与冗余 效率优先; 往往牺牲范式;(5)拒绝3B 拒绝大sql语句:big sql 拒绝大事物:big...
View Article基于Lua+Kafka+Heka的Nginx Log实时监控系统
背景在我们的系统架构中,Nginx作为所有HTTP请求的入口,是非常重要的一层。每天产生大量的Nginx Access...
View Article长期通过微博、微信、知乎等平台接收碎片化的知识有什么弊端?
“碎片化”是移动互联网时代的大势,虽说一方面可以将这样的趋势理解做“合理运用时间”。然而长期接受碎片信息的后果也是有弊端的,即碎片化的信息极其容易被我们遗忘。你以为你得到了很多,但其实你什么都没有得到。希望今天分享的文章对同样碎片化的你们有些用。分享人:张颖作 者:Lachel...
View Articlekingshard--一个支持sharding的MySQL Proxy项目
kingshard简介kingshard是一个由Go开发高性能MySQL Proxy项目,kingshard在满足基本的读写分离的功能上,致力于简化MySQL分库分表操作;能够让DBA通过kingshard轻松平滑地实现MySQL数据库扩容。主要功能:1.读写分离。 2.跨节点分表。 3.客户端IP访问控制。 4.平滑上线DB或下线DB,前端应用无感知。 kingshard...
View ArticleJava回调机制
1. 什么是回调函数 回调函数(callback Function),顾名思义,用于回调的函数。 回调函数只是一个功能片段,由用户按照回调函数调用约定来实现的一个函数。回调函数是一个工作流的一部分,由工作流来决定函数的调用(回调)时机。回调函数包含下面几个特性: 1、属于工作流的一个部分; 2、必须按照工作流指定的调用约定来申明(定义);...
View Article安装MySQL中间层 Atlas实现不改程序就能读写分离
Atlas是由 Qihoo 360, Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基础上,修改了大量bug,添加了很多功能特性。目前该项目在360公司内部得到了广泛应用,很多MySQL业务已经接入了Atlas平台,每天承载的读写请求数达几十亿条。主要功能: * 读写分离 * 从库负载均衡 * IP过滤 *...
View Article巧用网页分析“反击”钓鱼网站
接触网络一段时间的用户都会多多少少遇到一些钓鱼网站,而作为开发者的我们遇到的钓鱼网站更是数不胜数,有时稍不留神就会被钓鱼网站将自己的重要信息钓走,对于钓鱼网站我们也是咬牙切齿,当我们发现钓鱼网站后,我们总是气愤后关闭离开,或者有些正义感的朋友会选择举报该网站。这一次我来讲个更绝的,通过分析钓鱼网站获得其传输方法,发送垃圾数据反击作者。先说说今天的经历,今天早上去了一趟科技市场,回来发现自己两台不同的...
View Article移动设备改变科技产业新例证:Flash面临被淘汰危机
据《华尔街日报》网络版报道,曾经给Web带来活力的Flash,多年来一直被批存在安全风险,拖累了互联网的发展。上周,它成为科技产业最可能被淘汰的一种技术。上周Facebook首席安全官亚历克斯·斯塔莫斯(Alex Stamos)“忠告”Adobe:停止尝试修复Flash,完全抛弃它。发现黑客在利用其中的漏洞后,谷歌和Mozilla临时在它们的浏览器中关闭了Flash。...
View Article银联加密算法
很多人对银联卡的加密算法感兴趣,毕竟分分钟涉及的都是你的钱的安全,但网上很少人却讲银联标准加密算法。遂写一遍当做是自己的学习笔记,偶尔忘了可以翻翻,同时希望能够帮助到其他人。 首先要认识一下cbc算法和ecb算法。cbc算法是链式的,慢,不可并行处理,但更安全,因为每一次加密都是依赖于上一次的结果,同时这也会导致一次错将导致后面的全部错误。...
View Article为 Java 程序员准备的 Go 入门 PPT
这是 Google 的 Go 团队技术主管经理 Sameer Ajmani 分享的 PPT,为 Java 程序员快速入门 Go 而准备的。视频这个 PPT 是 2015年4月23日在 NYJavaSIG中使用的。前往 YouTube 观看视频 主要内容1. Go 是什么,谁在使用 Go? 2. 比较 Go 和 Java 3. 代码示例 4. 并发 5. 工具Go 是什么?“Go...
View Article防范 DDoS 攻击的 15 个方法
为了对抗 DDoS(分布式拒绝服务)攻击,你需要对攻击时发生了什么有一个清楚的理解. 简单来讲,DDoS 攻击可以通过利用服务器上的漏洞,或者消耗服务器上的资源(例如 内存、硬盘等等)来达到目的。DDoS 攻击主要要两大类: 带宽耗尽攻击和资源耗尽攻击. 为了有效遏制这两种类型的攻击,你可以按照下面列出的步骤来做:1. 如果只有几台计算机是攻击的来源,并且你已经确定了这些来源的 IP 地址,...
View Article目前美国增长最快的十个工作
译者: amber0911原文地址: thefiscaltimes.com据美国财政时报报道,以下十个工作目前增长最快:1. 理疗师助手主要用物理疗法,帮助受伤或生病的病人做康复治疗,解除酸痛。 平均工资53360美元,预计需求增长41%,拥有大专学历,获得国家资质许可或认证即可。2. 基因咨询师(遗传咨询师)主要为病人提供遗传基因方面的信息,如卫生保健或遗传病及先天缺陷等方面的医疗服务。...
View Article爬取QQ空间3000万用户,玩玩大数据分析
这是我近期使用C#写的一个QQ空间蜘蛛网爬虫程序。程序断断续续的运行了两周,目前总共爬了3000万QQ数据,其中有300万包含用户(QQ号,昵称,空间名称,头像,最新一条说说内容,最新说说的发表时间,空间简介,性别,生日,所在省份,城市)的详细数据。目前已经爬到我的第7圈好友(depth=7)共3000万数据。...
View Article架构学习资料整理(2013)
地瓜哥2013攒的架构资料: 分享D瓜哥最近攒的资料(架构方面)以前见过零零散散地介绍一些知名网站架构的分析文章。最近D瓜哥也想研究一下各大知名网站的架构。所以,就搜集了一下这方面资料。限于时间问题,这篇文章分享的文章并没有都看完,所以不保证所有文章的质量。另外,如果有朋友发现更好的文章,欢迎留言告知。再补充进来。知名网站架构分析探索Google App...
View ArticleAndroid:管理应用内存
所有内容均来源于官方文档 https://developer.android.com/training/articles/memory.htmlonly way to completely release memory from your app is to release object references you may be holding, making the memory...
View ArticleAndroid菜鸟笔记- 获取未安装的APK图标、版本、包名、名称、是否安装、安装、打开
周末闲来无事,把Android的基础知识拿出来复习复习,今天主题是《获取未安装的APK图标、版本、包名、名称、是否安装、跳转安装、打开》一、获取APK图标通常读取APK的图标可以用,PackageManager里面的getApplicationIcon(ApplicationInfo)来得到一个drawable。但实际使用的时候经常只能得到一个默认的图标,根本不是APK的图标。参考小米开源文件管理器...
View Article