抖音数据采集教程,Android群控黑盒调用,Sekiro使用手册
16lz
2021-01-23
抖音数据采集教程,Android群控黑盒调用,Sekiro使用手册
0x0 前言
之前尝试用过virjar大佬的hermesagent, 后来大佬又迭代出新的基于长链接的Sekiro
, 一直想看都被耽搁了, 今天正好抽空尝试一下, 顺便写篇笔记, 有错误的地方大佬们请指正哈
0x1 Sekiro介绍
SEKIRO 是一个android下的API服务暴露框架,可以用在app逆向、app数据抓取、android群控等场景
和其他群控框架相比的特点如下:
- 对网络环境要求低,sekiro使用长链接管理服务,使得Android手机可以分布于全国各地,甚至全球各地。手机掺合在普通用户群体,方便实现反抓突破,更加适合获取下沉数据。
不依赖hook框架,就曾经的Hermes系统来说,和xposed框架深度集成,在当今hook框架遍地开花的环境下,框架无法方便迁移。所以在Sekiro的设计中,只提供了RPC功能了。 - 纯异步调用,在Hermes和其他曾经出现过的框架中,基本都是同步调用。虽然说签名计算可以达到上百QPS,但是如果用来做业务方法调用的话,由于调用过程穿透到目标app的服务器,会有大量请求占用线程。系统吞吐存在上线(hermes系统达到2000QPS的时候,基本无法横向扩容和性能优化了)。但是Sekiro全程使用NIO,理论上其吞吐可以把资源占满。
- client实时状态,在Hermes系统我使用http进行调用转发,通过手机上报心跳感知手机存活状态。心跳时间至少20s,这导致服务器调度层面对手机在线状态感知不及时,请求过大的时候大量转发调用由于client掉线timeout。在Sekiro长链接管理下,手机掉线可以实时感知。不再出现由于框架层面机制导致timeout
Sekiro架构
server: 暴露一个TCP端口和两个HTTP端口 管理通过TCP连接的client和user发来的http 请求client: 通过TCP和server连接,响应server发来的请求 工作流程是这样的: 1. client通过TCP和server建立长连接 2. user发送http请求给server 3. server根据用户发来的http请求的参数,通过TCP将请求转发给client 4. client收到请求并响应server 5. server将从client收到的请求返回给user
详细的可以去看项目的readme, 说的非常详细: 项目传送门
0x2 服务端部署
- 克隆项目:
git clone [https://github.com/virjar/sekiro.git](https://github.com/virjar/sekiro.git)
- 修改settings.gradle的内容为:
include ':sekiro-server', ':sekiro-lib'
,删掉appdemo防止编译它 - 启动服务器前注意事项
server端在`sekiro-server/src/main/resources/appliation.properties`中可以配置三个服务端端口, 主要服务端安全策略的出入口需要开放这个三个端口#tomcat 占用端口server.port=5602#长链接服务占用端口natServerPort=5600# 异步http占用端口natHttpServerPort=5601# websocket占用端口webSocketServerPort=5603 如果自定义端口,client需要调用SekiroClient.start(String serverHost, int serverPort, final String clientID, String group)中去连接server
执行命令:./gradlew sekiro-server:bootJar
即可在 sekiro-server/build/libs/sekiro-server-0.0.1-SNAPSHOT.jar
找到all-in-one的jar包
- 通过
nohup java -jar sekiro-server/build/libs/sekiro-server-0.0.1-SNAPSHOT.jar >/dev/null 2>&1 &
启动server
0x3 客户端
- 先准备一个测试的Demo, 很简单就是个加法, 注意Demo必须有加
android.permission.INTERNET
权限
public class MainActivity extends AppCompatActivity { public static int Add(int n1, int n2) { return n1 + n2; } @Override protected void onCreate(Bundle savedInstanceState) { super.onCreate(savedInstanceState); setContentView(R.layout.activity_main); Toast.makeText(MainActivity.this, "3 + 2 = " + Add(3, 2), Toast.LENGTH_LONG).show(); }}
- 再准备的一个Xposed的项目, 不会的可以先看我之前写的一篇笔记: AndroidStudio使用Xposed
- 在app的build.gradle添加依赖
implementation 'com.virjar:sekiro-api:1.0.1'
- 在Xposed的
handleLoadPackage
中启动client链接server,并添加处理事件的handler, 用于调用Add函数
Log.i(TAG, "connect server....");//服务端hostString testHost = "your_host";//客户端标识String clientId = UUID.randomUUID().toString();//接口组名称String groupName = "addDemoTest2";//暴露的接口名称String actionName = "myAdd";//拿classloaderclzLoader = lpparam.classLoader; //连接服务端并且注册处理的handlerSekiroClient.start(testHost, clientId, groupName) .registerHandler(actionName, new SekiroRequestHandler(){ @Override public void handleRequest(SekiroRequest sekiroRequest, SekiroResponse sekiroResponse){ //当服务端分配任务时, 这里处理逻辑, 并把结果返回给服务端, 服务端再返回给调用者 Class<?> clz = XposedHelpers.findClass("com.example.administrator.adddemo.MainActivity", clzLoader); int arg1 = sekiroRequest.getInt("arg1"); int arg2 = sekiroRequest.getInt("arg2"); Log.i(TAG, String.format("arg1 : %d, arg2 : %d", arg1, arg2)); Object result = XposedHelpers.callStaticMethod(clz, "Add", arg1, arg2); Log.i(TAG, "result : " + result); sekiroResponse.success(result); } });
- 编译错误
More than one file was found with OS independent path
解决
//build.gradle里android{}添加错误的path packagingOptions { exclude 'META-INF/DEPENDENCIES' exclude 'META-INF/INDEX.LIST' exclude ('META-INF/io.netty.versions.properties')}
0x4 尝试调用
- 打开app后, 使用浏览器查看group列表是否注册成功:
[your_server_ip]:[server.port]/groupList
- 调用接口查看结果:
格式: your_server_ip:[natHttpServerPort]/[invoke_type]?group=[group_id]&action=[action_name]¶m1=[arg] 例子: https://x.x.x.x:5602/asyncInvoke?group=addDemoTest2&action=myAdd&arg1=300&arg2=300
- client的调用日志
感谢&参考资料
sekiro实践
更多短视频数据实时采集接口,请查看文档: TiToData
免责声明:本文档仅供学习与参考,请勿用于非法用途!否则一切后果自负。
更多相关文章
- 安卓学习日记(一):了解安卓架构(linux内核层、系统运行库层、应用框
- Android开发指南!带你全面解析Android框架体系架构view篇,已拿offe
- 打造android ORM框架opendroid(七)——数据库升级方案
- 关于Volley网络框架的使用
- android 本地化[ICU4J Android 框架 API] 一
- Android WebView与服务端交互Demo
- Android入门教程 xutils框架入门教程