<div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr">Coded Bias was great, thanks for the invite Vicki.<div><br></div><div>In the movie, Cathy O’Neil argued for legislation requiring algorithms automating decision making to be audited, to make sure they do what they're supposed to do, and aren't discriminatory.  </div><div><br></div><div>"Algorithmic accountability".</div><div><br></div><div>I was excited to find out that there's already a policy at the federal level requiring this for government departments:<br></div><div><a href="https://www.tbs-sct.gc.ca/pol/doc-eng.aspx?id=32592" target="_blank">Directive on Automated Decision-Making- Canada.ca (tbs-sct.gc.ca)</a><br></div><div><br></div><div>Some highlights:</div><div><ul><li>"The objective of this Directive is to ensure that Automated Decision Systems are deployed in a manner that reduces risks to Canadians and federal institutions, and leads to more efficient, accurate, consistent, and interpretable decisions made pursuant to Canadian law."<br></li><li>Before an automated decision making system can be used, an <a href="https://canada-ca.github.io/aia-eia-js/" target="_blank">Algorithmic Impact Assessment</a> has to be completed</li><li>Meaningful explanation to affected individuals of how and why the decision was made is required </li><li>Ensuring that an Automated Decision System allows for human intervention, when appropriate</li></ul></div><div><div>Brilliant stuff.  I'm beyond impressed to see the public sector ahead of the curve on this.</div><div><br></div><div>As for wider society (private industry, RCMP, police) the situation is similar to what's described in the movie.  I'm having trouble finding what the state of the discussion is exactly.  Most of what I find is around <a href="https://www.priv.gc.ca/en/opc-news/news-and-announcements/2021/nr-c_210203/" target="_blank">police use of Clearview AI</a>, and ignores other uses for the technology.</div><div><br></div><div>Do you know if there's anyone in MB who's working on this?</div><div><br></div><div>Some reports I found:</div><div><a href="https://www.lco-cdo.org/en/the-lco-releases-a-new-report-regulating-ai-critical-issues-and-choices/" target="_blank">Law Commission of Ontario report</a></div><div><a href="https://ccla.org/cclanewsite/wp-content/uploads/2021/01/Interim-Report-Compiled-BM.pdf" target="_blank">Canada Civil Liberties Association report</a></div><div><br></div><div>Some civil servants with an interest that I managed to find:</div><div><a href="https://twitter.com/MrDeshaies" target="_blank">Benoit Deshaies (@MrDeshaies) / Twitter</a><br></div><div><a href="https://twitter.com/owbitar" target="_blank">Omar W. Bitar (@owbitar) / Twitter</a><br></div><div><br></div></div><div><div><br></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Apr 9, 2021 at 3:56 PM Vicki Nemeth <<a href="mailto:vicki@vickinemethwriter.com" target="_blank">vicki@vickinemethwriter.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Hi everyone,<br><br>The Winnipeg Data Science Meetup will be screening "Coded Bias," a documentary film exploring the fallout of MIT Media Lab researcher Joy Buolamwini's discovery of racial bias in facial recognition algorithms. The Meetup is on April 20 starting around 6:45pm. You have to register for the Zoom info to get in: <a href="https://www.meetup.com/Winnipeg-Data-Science-Meetup/events/277469894/" target="_blank">https://www.meetup.com/Winnipeg-Data-Science-Meetup/events/277469894/</a><br><br>Anywhos, see you next week,<br><br>Vicki Nemeth<br>--<br>Get the content marketing done for your IT firm, office space, and furniture and green housewares store.<br>Visit <a href="http://vickinemethwriter.com" target="_blank">VickiNemethWriter.com</a>
_______________________________________________<br>
Roundtable mailing list<br>
<a href="mailto:Roundtable@muug.ca" target="_blank">Roundtable@muug.ca</a><br>
<a href="https://muug.ca/mailman/listinfo/roundtable" rel="noreferrer" target="_blank">https://muug.ca/mailman/listinfo/roundtable</a><br>
</blockquote></div>