百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分析 > 正文

Webrtc 屏幕共享 webrtc屏幕共享

liebian365 2024-11-12 13:08 27 浏览 0 评论

功能简介

屏幕共享包括屏幕采集和视频流推送两部分功能。与远程桌面不同,屏幕共享只是将本地桌面内容以视频流的方式分享到网络。本文的重点,是讲解如何应用 webrtc 的屏幕采集功能。对于 webrtc 视频编码传输功能的应用,需要专门的文章进行讲解,这里暂时不做展开,而是把重点集中在屏幕采集上。webrtc 提供了多个平台的屏幕共享功能,这里以 windows 10 平台作为开发环境,讲述如何在 window 平台,应用 webrtc 的屏幕共享功能。

屏幕共享包括三种采集方式,有全屏采集,窗口采集,和指定区域采集。每种采集方式,都有自己特定的使用场景,这里主要关注的,是如何使用 webrtc 实现这三种采集方式。

webrtc 中屏幕采集的源码在 webrtc/src/modules/desktop_capture/目录下。 在 desktop_capture 目录中的 desktop_capturer.h 中定义了 DesktopCapturer 类,DesktopCapturer 类抽象了屏幕采集要用到的接口。windows 平台的屏幕采集实现,在 webrtc/src/modules/desktop_capture/win 目录下,其中有 ScreenCapturerWinGdi 类,ScreenCapturerWinMagnifier 类,DesktopAndCursorComposer 类,WindowCapturerWinGdi 类,WgcCapturerWin 类。这些实现类,分别实现了 Windows 平台的屏幕采集和窗口采集功能。


全屏采集

ScreenCapturerWinGdi 类只实现了单纯的屏幕采集功能,如果需要在全屏采集时过滤掉指定的窗口,则需要使用 ScreenCapturerWinMagnifier类,通过 SetExcludedWindow 接口设置需要过滤的窗口。ScreenCapturerWinMagnifier 类只实现了过滤窗口的功能,如果需要在过滤窗口的同时还要显示鼠标位置,就必须使用 DesktopAndCursorComposer 类,DesktopAndCursorComposer 类实现了将鼠标位置与屏幕图像合并的功能。

窗口采集

WindowCapturerWinGdi 类最早实现了采集指定窗口的功能,但是对于启用了硬件加速的窗口,则无法采集到窗口内的内容,只能采集到窗口的边框。在最新版本的 webrtc 中,提供了 WgcCapturerWin 类,WgcCapturerWin 实现了采集全屏和采集窗口功能,重要的是,WgcCapturerWin 可以采集开启了硬件加速的窗口,比如 chrome 浏览器。

采集区域

DesktopCapturer 类没有提供采集指定区域的接口,所以,需要在 DesktopCapturer 类中添加一个非纯虚函数,函数接受四个参数, 分别是指定区域的左上角坐标x和y,还有区域大小width和height。 然后再创建一个继承 ScreenCapturerWinGdi 的新类,然后重载 CaptureFrame 方法,可以拷贝 ScreenCapturerWinGdi 类中的 CaptureFrame 实现,然后把采集的区域指定为自定义的区域(把原来的全屏区域修改为自定义的区域)。这样就实现了采集指定区域。

趟过的坑:指定区域的 width 最好为 16 的整数倍,不可以为奇数。height 最好是 2 的整数倍。

屏幕共享流程

1.创建 DesktopCapturer 实例,可以根据需求创建不同的 DesktopCapturer 实现类,比如 ScreenCapturerWinMagnifier 类或者 DesktopAndCursorComposer类或者 WgcCapturerWin 类。

2.获取屏幕ID列表或窗口ID列表。

3.指定要采集的屏幕ID或窗口ID列表。

4.注册数据回调,开始采集。

5.将回调中的屏幕图像编码传输。

趟过的坑:DesktopCapturer 实例一定要在同一个线程内创建,初始化和销毁。

代码示例

#ifndef __RCRTC_DESKTOP_CAPTURER__
#define __RCRTC_DESKTOP_CAPTURER__

#include "api/video/i420_buffer.h"

#include "libyuv/convert.h"
#include "libyuv/video_common.h"

#include "media/base/video_broadcaster.h"
#include "media/base/video_common.h"

#include "modules/desktop_capture/desktop_and_cursor_composer.h"
#include "rtc_base/thread.h"
#include "system_wrappers/include/sleep.h"
#include "webrtc_desktop_capturer.h"

typedef void (*desktop_capture_frame_callback)(int width,
                                              int height,
                                              int y_stride,
                                              int u_stride,
                                              int v_stride,
                                              const uint8_t* y,
                                              const uint8_t* u,
                                              const uint8_t* v,
                                              void* context);

class RcrtcDesktopCapturer : public webrtc::DesktopCapturer::Callback {
public:
 RcrtcDesktopCapturer(const std::map<std::string, std::string>& opts) {}
 inline ~RcrtcDesktopCapturer() override {}

 // overide webrtc::DesktopCapturer::Callback
 void OnCaptureResult(webrtc::DesktopCapturer::Result result,
                      std::unique_ptr<webrtc::DesktopFrame> frame) override {
   if (result == webrtc::DesktopCapturer::Result::SUCCESS) {
     int width = frame->size().width();
     int height = frame->size().height();

     rtc::scoped_refptr<webrtc::I420Buffer> I420buffer =
         webrtc::I420Buffer::Create(width, height);

     const int conversionResult = libyuv::ConvertToI420(
         frame->data(), 0, I420buffer->MutableDataY(), I420buffer->StrideY(),
         I420buffer->MutableDataU(), I420buffer->StrideU(),
         I420buffer->MutableDataV(), I420buffer->StrideV(), 0, 0,
         // width, height,
         I420buffer->width(), I420buffer->height(), I420buffer->width(),
         I420buffer->height(), libyuv::kRotate0, ::libyuv::FOURCC_ARGB);

     if (conversionResult >= 0) {
       webrtc::VideoFrame videoFrame(I420buffer,
                                     webrtc::VideoRotation::kVideoRotation_0,
                                     rtc::TimeMicros());

       rtc::scoped_refptr<webrtc::I420BufferInterface> buffer(
           videoFrame.video_frame_buffer()->ToI420());
       _frameCallback(buffer->width(), buffer->height(), buffer->StrideY(),
                      buffer->StrideU(), buffer->StrideV(), buffer->DataY(),
                      buffer->DataU(), buffer->DataV(), this->_userContext);
    }
  }
}

 void setExccludeWindow(webrtc::DesktopCapturer::Source windowId) {
   _excludeWindowList.push_back(windowId);
}

 void CaptureThread() {
   webrtc::DesktopCaptureOptions opts =
       webrtc::DesktopCaptureOptions::CreateDefault();
   opts.set_allow_use_magnification_api(true);  //设置过滤窗口选项
   // 使用 DesktopAndCursorComposer 可以采集鼠标
   std::unique_ptr<webrtc::DesktopCapturer> capturer =
       std::unique_ptr<webrtc::DesktopCapturer>(
           new webrtc::DesktopAndCursorComposer(
               webrtc::DesktopCapturer::CreateScreenCapturer(opts), opts));

   // 设置开始采集状态
   capturer->Start(this);

   // 设置要过滤的窗口
   for (auto source : _excludeWindowList) {
     capturer->SetExcludedWindow(source.id);
  }

   while (_isrunning) {
     webrtc::SleepMs(_msPerFrame);
     // 采集桌面图像
     capturer->CaptureFrame();
  }
}

 bool Start() {
   _isrunning = true;
   _capture_thread = rtc::Thread::Create();
   _capture_thread->Start();
   _capture_thread->PostTask(RTC_FROM_HERE, [&] { CaptureThread(); });
}

 void Stop() {
   if (_isrunning) {
     _isrunning = false;
     _capture_thread->Stop();
     _capture_thread.reset();
  }
}

public:
 int _msPerFrame = 100;  // 100毫秒采集一次,每秒钟采集10帧
 webrtc::DesktopCapturer::SourceList _excludeWindowList;  //需要过滤的窗口列表
 desktop_capture_frame_callback _frameCallback = nullptr;  //视频输出回调
 void* _userContext = nullptr;

private:
 std::unique_ptr<rtc::Thread> _capture_thread;
 bool _isrunning = false;
};

#endif

总结

如果理清了 webrtc 屏幕共享的脉络,整个过程还不算太复杂。但是,如果一开始没有对 webrtc 的 屏幕共享有一个概览,冒然逐步趟坑,说不准就会卡在某处,无法前进。希望本文对正准备应用 webrc 屏幕共享的人有所帮助。

融云 RCRTC C++ SDK 已经实现了 Windows 的屏幕共享功能,并且处理了很多产品需求层面的细节。有兴趣的同学,可以关注我们的 SDK,关注融云。

祝大家工作顺利!

相关推荐

“版本末期”了?下周平衡补丁!国服最强5套牌!上分首选

明天,酒馆战棋就将迎来大更新,也聊了很多天战棋相关的内容了,趁此机会,给兄弟们穿插一篇构筑模式的卡组推荐!老规矩,我们先来看10职业胜率。目前10职业胜率排名与一周前基本类似,没有太多的变化。平衡补丁...

VS2017 C++ 程序报错“error C2065:“M_PI”: 未声明的标识符&quot;

首先,程序中头文件的选择,要选择头文件,在文件中是没有对M_PI的定义的。选择:项目——>”XXX属性"——>配置属性——>C/C++——>预处理器——>预处理器定义,...

东营交警实名曝光一批酒驾人员名单 88人受处罚

齐鲁网·闪电新闻5月24日讯酒后驾驶是对自己和他人生命安全极不负责的行为,为守护大家的平安出行路,东营交警一直将酒驾作为重点打击对象。5月23日,东营交警公布最新一批饮酒、醉酒名单。对以下驾驶人醉酒...

Qt界面——搭配QCustomPlot(qt platform)

这是我第一个使用QCustomPlot控件的上位机,通过串口精确的5ms发送一次数据,再将读取的数据绘制到图表中。界面方面,尝试卡片式设计,外加QSS简单的配了个色。QCustomPlot官网:Qt...

大话西游2分享赢取种族坐骑手办!PK趣闻录由你书写

老友相聚,仗剑江湖!《大话西游2》2021全民PK季4月激燃打响,各PK玩法鏖战齐开,零门槛参与热情高涨。PK季期间,不仅各种玩法奖励丰厚,参与PK趣闻录活动,投稿自己在PK季遇到的趣事,还有机会带走...

测试谷歌VS Code AI 编程插件 Gemini Code Assist

用ClaudeSonnet3.7的天气测试编码,让谷歌VSCodeAI编程插件GeminiCodeAssist自动编程。生成的文件在浏览器中的效果如下:(附源代码)VSCode...

顾爷想知道第4.5期 国服便利性到底需优化啥?

前段时间DNF国服推出了名为“阿拉德B计划”的系列改版计划,截至目前我们已经看到了两项实装。不过关于便利性上,国服似乎还有很多路要走。自从顾爷回归DNF以来,几乎每天都在跟我抱怨关于DNF里面各种各样...

掌握Visual Studio项目配置【基础篇】

1.前言VisualStudio是Windows上最常用的C++集成开发环境之一,简称VS。VS功能十分强大,对应的,其配置系统较为复杂。不管是对于初学者还是有一定开发经验的开发者来说,捋清楚VS...

还嫌LED驱动设计套路深?那就来看看这篇文章吧

随着LED在各个领域的不同应用需求,LED驱动电路也在不断进步和发展。本文从LED的特性入手,推导出适合LED的电源驱动类型,再进一步介绍各类LED驱动设计。设计必读:LED四个关键特性特性一:非线...

Visual Studio Community 2022(VS2022)安装图文方法

直接上步骤:1,首先可以下载安装一个VisualStudio安装器,叫做VisualStudioinstaller。这个安装文件很小,很快就安装完成了。2,打开VisualStudioins...

Qt添加MSVC构建套件的方法(qt添加c++11)

前言有些时候,在Windows下因为某些需求需要使用MSVC编译器对程序进行编译,假设我们安装Qt的时候又只是安装了MingW构建套件,那么此时我们该如何给现有的Qt添加一个MSVC构建套件呢?本文以...

Qt为什么站稳c++GUI的top1(qt c)

为什么现在QT越来越成为c++界面编程的第一选择,从事QT编程多年,在这之前做C++界面都是基于MFC。当时为什么会从MFC转到QT?主要原因是MFC开发界面想做得好看一些十分困难,引用第三方基于MF...

qt开发IDE应该选择VS还是qt creator

如果一个公司选择了qt来开发自己的产品,在面临IDE的选择时会出现vs或者qtcreator,选择qt的IDE需要结合产品需求、部署平台、项目定位、程序猿本身和公司战略,因为大的软件产品需要明确IDE...

Qt 5.14.2超详细安装教程,不会来打我

Qt简介Qt(官方发音[kju:t],音同cute)是一个跨平台的C++开库,主要用来开发图形用户界面(GraphicalUserInterface,GUI)程序。Qt是纯C++开...

Cygwin配置与使用(四)——VI字体和颜色的配置

简介:VI的操作模式,基本上VI可以分为三种状态,分别是命令模式(commandmode)、插入模式(Insertmode)和底行模式(lastlinemode),各模式的功能区分如下:1)...

取消回复欢迎 发表评论: