分类
- .net (22)
- adf (11)
- android (3)
- article (236)
- astronomy (1)
- block chain (8)
- C# Code (9)
- c/c++ (2)
- cache (8)
- cloud (2)
- consensus (3)
- css (2)
- cve (1)
- db (55)
- digest (1)
- english (1)
- finance (2)
- go (3)
- gps (2)
- hardware (1)
- html (2)
- http (2)
- info (19)
- iot (1)
- it (3)
- java (30)
- javascript (6)
- jsp (2)
- linux (76)
- mail (14)
- math (1)
- message (8)
- mood (4)
- mq (2)
- network (22)
- php (9)
- protocol (4)
- push/pull (2)
- python (5)
- rpc (2)
- search (4)
- servlet (1)
- space (24)
- storage (15)
- technologys (103)
- templete (1)
- virtual machine (7)
- web server (37)
- windows (12)
-
近期文章
其他操作
链接
年归档:2015年
HDFS 基本概念
HDFS是Hadoop Distribute File System 的简称,也就是Hadoop的一个分布式文件系统。
一、HDFS的主要设计理念
1、存储超大文件
这里的“超大文件”是指几百MB、GB甚至TB级别的文件。
2、最高效的访问模式是 一次写入、多次读取(流式数据访问)
HDFS存储的数据集作为hadoop的分析对象。在数据集生成后,长时间在此数据集上进行各种分析。每次分析都将设计该数据集的大部分数据甚至全部数据,因此读取整个数据集的时间延迟比读取第一条记录的时间延迟更重要。
3、运行在普通廉价的服务器上
HDFS设计理念之一就是让它能运行在普通的硬件之上,即便硬件出...
发表在 storage
HDFS 基本概念已关闭评论
系统吞吐量、TPS(QPS)、用户并发量、性能测试概念和公式
一.系统吞度量要素:
一个系统的吞度量(承压能力)与request对CPU的消耗、外部接口、IO等等紧密关联。单个reqeust 对CPU消耗越高,外部系统接口、IO影响速度越慢,系统吞吐能力越低,反之越高。
系统吞吐量几个重要参数:QPS(TPS)、并发数、响应时间
QPS(TPS):每秒钟request/事务 数量
并发数: 系统同时处理的request/...
发表在 storage
系统吞吐量、TPS(QPS)、用户并发量、性能测试概念和公式已关闭评论
首批“全国旅游价格信得过景区”名单
景区名称 | 等级 |
北京市 | |
通州区大运河森林公园 | 4A |
北京韩美林艺术馆 | 4A |
小汤山现代农业科技示范园 | 4A |
朝阳公园 | 4A |
中华民族园 | 4A |
紫檀博物馆 | 4A |
石花洞 | 4A |
云居寺 | 4A |
周口店北京人遗址博物馆 | 4A |
戒台寺景区 | 4A |
八达岭水关长城 | 4A |
北京野鸭湖国家湿地公园 | 4A |
北京延庆松山森林旅游区 | 4A |
日坛公园 | 3A |
庆丰公园 | 3A |
古塔公园 | 3A |
黄芩仙谷 | 3A |
北京顺鑫绿色度假村 | 3A |
通州区运河公园 | 3A |
中国民兵武器装备陈列馆 | 3A |
爨柏景区 | 3A |
十八潭景区 | 3A |
桃源仙谷 | 3A |
首云国家矿山公园 | 3A |
青菁顶景区 | 3A |
白龙潭 | 3A |
北京古崖居风景名胜区 | 3A |
万芳亭公园 | 2A |
小龙门国家森林公园 | 2A |
灵山景区 | 2A |
八达岭世界葡萄博览中心 | 非A |
天津市 | |
天津古文化街旅游区(津门故里) | 5A |
天津盘... |
发表在 article
首批“全国旅游价格信得过景区”名单已关闭评论
web.config machineKey
using System.Web.Configuration; //打开web.config文件,写入新生成的machineKey Configuration config = WebConfigurationManager.OpenWebConfiguration("/"); MachineKeySection configSection = (MachineKeySection)config.GetSection("system.web/machineKey"); configSection.ValidationKey = CreateKey(64); configSec...
AES CFB/OFB/ECB/CBC/CTR
AES常见加密模式有CFB/OFB/ECB/CBC/CTR,本文概述这些算法特点,让大家更快的了解AES,当然天缘也不是专业做算法的,工作中也只是使用到才会学习一点,如有错误,欢迎指出。
一、Cipher feedback(CFB)
CFB算法优点:
同明文不同密文,分组密钥转换为流密码。
CFB算法缺点:
串行运算不利并行,传输错误可能导致后续传输块错误。
二、Output feedback(OFB)
OFB算法优点:
同明文不同密文,分组密钥转换为流密码。
OFB算法缺点:
串行运算不利并行,传输错误可能导致后续传输块错误。
三、Electronic codebook(ECB)
ECB算法优点:
简单、孤立,每个块...
strace ltrace 调试php
以分析 in_array 为例
shell$ time /usr/local/php/bin/php test.php
real 0m1.132s
user 0m1.118s
sys 0m0.015s
shell$ strace -ttt -o xxx /usr/local/php/bin/php test.php
shell$ less xxx
看到这两次系统调用之间的延时非常大,却并不知道干了什么?一筹莫展了,幸好,Linux下的调试利器除了strace还有ltrace(当然还有dtrace,ptrace,不在本文讨论范围了,略去)。
引用:strace用来 跟踪一个进程的系统调用或信...
发表在 php
strace ltrace 调试php已关闭评论
分布式文件系统FastDFS设计原理
FastDFS是一个开源的轻量级分布式文件系统,由跟踪服务器(tracker server)、存储服务器(storage server)和客户端(client)三个部分组成,主要解决了海量数据存储问题,特别适合以中小文件(建议范围:4KB < file_size <500MB)为载体的在线服务。
Storage server
Storage server(后简称storage)以组(卷,group或volume)为单位组织,一个group内包含多台storage机器,数据互为备份,存储空间以group内容量最小的storage为准,所以建议group内的多个storage尽量配置相同,...
CentOS 6.3 KVM
参考文章:
RedHat/CentOS6.2 x86系统KVM虚拟机网络配置 http://www.linuxidc.com/Linux/2012-05/61445.htm
作业环境
服务器端
操作系统:CentOS 6.3 final x86_64
IP: 133.133.10.50
Hostname:myKVM
KVM:qemu-kvm-0.12.1.2-2.295.el6_3.2.x86_64
客户端:Ubuntu和Win7,先在服务器端装好VNC,通过VNC连接服务器CentOS
一、安装KVM及相关软件
1、KVM 需要有 CPU 的支持(Intel vmx 或 AMD s...
ASA5505 failover
热备必需为SEC版本
ASA 5505是 security plus 的licence,支持Stateless A/S的failover,不支持状态化的failover,
当一台设备挂了,另一台会开始工作,但是所有session会断掉,也就是用户会明显感觉断网过网,如果做stateful的AA就不会出现这种问题
5505是没有context的,也就是虚拟防火墙,所以不支持AA failover
AA的failover 需要 5510以上的ASA,5510需security plus的,若为5520以上的就不用购买security plus 的,因为5510普通版是不支持AA的
另外,ASA55...
LogParser
Logparser是一款非常强大的日志分析软件,可以帮助你详细的分析网站日志。是所有数据分析和网站优化人员都应该会的一个软件。Logparser是微软的一款软件完全免费的,大家可以在微软的官网上去下载,下载地址:
http://www.microsoft.com/en-us/download/details.aspx?id=24659
使用方法:
打开logparser
LogParser Developer
微软有个工具Log Parser可以帮助你分析日志。它功能强大,使用简单,可以分析基于文本的日志文件、XML 文件、CSV(逗号分隔符)文件,以及操作系统的事件日志、注册表、文件系统、Active Directory。它可以像使用 SQL 语句一样查询分析这些数据,甚至可以把分析结果以各种图表的形式展现出来。
Log Parser可以到微软的网站下载,安装完后,就会有命令行的执行程序LogParser.exe,供API使用的LogParser.dll及说明文件LogParser.chm,里面还会有一些Sample Code可以供参考.
Log Parser支持的格式很多,输入格式如下:
输出格式如下...
ibdata1 & mysql-bin
ibdata1和mysql-bin
问题:磁盘空间报警,经查发现ibdata1和mysql-bin日志占用空间太多(其中ibdata1超过120G,mysql-bin超过80G)
原因:ibdata1是存储格式,在INNODB类型数据状态下,ibdata1用来存储文件的数据和索引,而库名的文件夹里的那些表文件只是结构而已。
innodb存储引擎有两种表空间的管理方式,分别是:
1)共享表空间(可拆分为多个小的表空间文件),这个是我们目前多数数据库使用的方法;
2)独立表空间,每一个表有一个独立的表空间(磁盘文件)
对于两种管理方式,各有优劣,具体如下:
①共享表空间:
优点:可... 继续阅读
MySql ibdata1文件
MySql innodb如果是共享表空间,ibdata1文件越来越大,达到了30多个G,对一些没用的表进行清空:
truncate table xxx;
然后optimize table xxx; 没有效果
因为对共享表空间不起作用。
mysql ibdata1存放数据,索引等,是MYSQL的最主要的数据。
如果不把数据分开存放的话,这个文件的大小很容易就上了G,甚至几十G。对于某些应用来说,并不是太合适。因此要把此文件缩小。
无法自动收缩,必须数据导出,删除ibdata1,然后数据导入,比较麻烦,因此需要改为每个表单独的文件。
解决方法:数据文件单独存放(共享表空间如何改为每个表独立的表空间文件)。
步骤如... 继续阅读
网上找到的一个 dot net X509 证书生成类
网上找到的一个 dot net X509 证书生成类
using System; using System.Runtime.InteropServices; using System.Security.Cryptography.X509Certificates; using SecureString = System.Security.SecureString; using RuntimeHelpers = System.Runtime.CompilerServices.RuntimeHelpers; internal class Certifica...